[AI 趣谈]除了神经网络,还有一种AI能完全解释自己的决策过程 2

除了神经网络,还有一种AI能完全解释自己的决策过程

文章知识来源于微软AI begin
github.com/microsoft/AI-For-Beginn...

ChatGPT火了,但AI还有另一面

说到AI,大家第一反应都是ChatGPT、深度学习、神经网络。但实际上,AI还有另一个重要分支——符号AI,它的工作方式和神经网络完全不同。

最大的区别是什么?符号AI能完全解释自己是怎么得出结论的,而神经网络基本是个”黑盒”。

除了神经网络,还有一种AI能完全解释自己的决策过程

专家系统:让计算机像专家一样思考

什么是专家系统?

想象一下,如果能把一个资深医生的诊断经验完全”下载”到计算机里,会怎样?

这就是专家系统想要做的事情。

例子:医疗诊断专家系统
规则1: IF 患者发高烧 THEN 可能有炎症
规则2: IF C反应蛋白高 THEN 可能有炎症  
规则3: IF 有炎症 AND 咳嗽 THEN 可能是肺炎

推理过程:
患者症状:发烧39+ 咳嗽 + C反应蛋白12mg/L
→ 触发规则1和规则2 → 判断有炎症
→ 结合咳嗽症状,触发规则3 → 诊断:肺炎

关键是:这个推理过程完全透明,每一步都能解释。

专家系统的优势

与现在的AI相比,专家系统有几个独特优势:

  1. 完全可解释:能告诉你为什么得出这个结论
  2. 专业性强:在特定领域可以达到专家级水平
  3. 规则可修改:专家可以直接调整规则,不需要重新训练

知识表示:如何让计算机”理解”知识

三元组:最简单的知识表示

所有知识都可以用”对象-属性-值”的形式表示:

Python - 类型 - 编程语言
Python - 发明者 - Guido van Rossum  
Python - 语法特点 - 缩进语法
编程语言 - 用途 - 软件开发

看起来简单,但这种方式能表示复杂的知识网络。

推理规则:让计算机会”推理”

IF 动物吃肉 THEN 动物是肉食动物
IF 动物有锋利牙齿 AND 动物有爪子 THEN 动物是肉食动物

输入:狮子有锋利牙齿,狮子有爪子
推理:狮子是肉食动物

现实应用:专家系统无处不在

虽然现在神经网络很火,但专家系统在很多领域仍然不可替代:

医疗诊断

  • MYCIN系统:诊断血液感染,准确率达到专家医生水平
  • 优势:每个诊断都能给出详细解释

金融风控

# 信贷审批规则示例
IF 收入 > 10000 AND 信用分数 > 700 THEN 通过初审
IF 负债率 > 70% THEN 拒绝申请
IF 逾期次数 > 3 THEN 降低额度

工业控制

  • 石油炼制过程控制
  • 核电站安全监控
  • 航空飞行控制

为什么这些领域还用专家系统?因为需要解释每个决策的依据,承担不起”黑盒”的风险。

语义网:让互联网变聪明

还记得”语义网”的概念吗?这也是符号AI的一个重要应用。

基本思路

把互联网上的信息都用三元组的形式标注:

百度 - 类型 - 搜索引擎
百度 - 创始人 - 李彦宏
百度 - 成立时间 - 2000

这样搜索引擎就能”理解”网页内容,而不只是匹配关键词。

实际例子

  • 知识图谱:Google、百度的知识面板
  • WikiData:维基百科的结构化知识库
  • 智能问答:Siri、小爱同学的知识查询

程序员视角:何时选择符号AI?

适合符号AI的场景

  • 需要解释决策过程:医疗、金融、法律
  • 规则相对固定:专业领域的标准流程
  • 专家知识可以明确表达:诊断、审批、分类

不适合的场景

  • 模式识别:图像、语音、自然语言理解
  • 创造性任务:内容生成、艺术创作
  • 大量数据驱动:推荐系统、搜索排序

技术实现

# 简单的专家系统示例
class ExpertSystem:
    def __init__(self):
        self.facts = set()
        self.rules = []

    def add_rule(self, conditions, conclusion):
        self.rules.append((conditions, conclusion))

    def infer(self):
        changed = True
        while changed:
            changed = False
            for conditions, conclusion in self.rules:
                if all(cond in self.facts for cond in conditions):
                    if conclusion not in self.facts:
                        self.facts.add(conclusion)
                        changed = True

未来:符号AI与神经网络的结合

现在最前沿的研究方向是神经符号AI

  • 神经网络负责感知:处理图像、语音、文本
  • 符号系统负责推理:逻辑推理、知识整合
  • 两者结合:既有神经网络的学习能力,又有符号系统的可解释性

例如:

  1. 用CNN识别X光片上的异常区域
  2. 用专家系统根据医学知识进行诊断推理
  3. 给出诊断结果和详细解释

总结

符号AI虽然没有神经网络那么”火”,但在需要可解释性专业知识推理的场景中仍然不可替代。

作为程序员,了解这些技术能帮助我们:

  • 选择合适的AI技术路线
  • 构建可解释的智能系统
  • 在特定领域达到专家级效果

AI不只是深度学习,符号AI同样值得学习和应用。


下期预告:我们将深入探讨神经网络与符号AI如何结合,构建更强大的混合智能系统。

关注我,一起探索AI技术的多个面向!

本作品采用《CC 协议》,转载必须注明作者和本文链接
• 15年技术深耕:理论扎实 + 实战丰富,教学经验让复杂技术变简单 • 8年企业历练:不仅懂技术,更懂业务落地与项目实操 • 全栈服务力:技术培训 | 软件定制开发 | AI智能化升级 关注「上海PHP自学中心」获取实战干货
wangchunbo
讨论数量: 0
(= ̄ω ̄=)··· 暂无内容!

讨论应以学习和精进为目的。请勿发布不友善或者负能量的内容,与人为善,比聪明更重要!
司机 @ 某医疗行业
文章
338
粉丝
357
喜欢
579
收藏
1151
排名:59
访问:12.7 万
私信
所有博文
社区赞助商