[AI 趣谈]除了神经网络,还有一种AI能完全解释自己的决策过程 2
除了神经网络,还有一种AI能完全解释自己的决策过程
文章知识来源于微软AI begin
github.com/microsoft/AI-For-Beginn...
ChatGPT火了,但AI还有另一面
说到AI,大家第一反应都是ChatGPT、深度学习、神经网络。但实际上,AI还有另一个重要分支——符号AI,它的工作方式和神经网络完全不同。
最大的区别是什么?符号AI能完全解释自己是怎么得出结论的,而神经网络基本是个”黑盒”。
专家系统:让计算机像专家一样思考
什么是专家系统?
想象一下,如果能把一个资深医生的诊断经验完全”下载”到计算机里,会怎样?
这就是专家系统想要做的事情。
例子:医疗诊断专家系统
规则1: IF 患者发高烧 THEN 可能有炎症
规则2: IF C反应蛋白高 THEN 可能有炎症
规则3: IF 有炎症 AND 咳嗽 THEN 可能是肺炎
推理过程:
患者症状:发烧39度 + 咳嗽 + C反应蛋白12mg/L
→ 触发规则1和规则2 → 判断有炎症
→ 结合咳嗽症状,触发规则3 → 诊断:肺炎
关键是:这个推理过程完全透明,每一步都能解释。
专家系统的优势
与现在的AI相比,专家系统有几个独特优势:
- 完全可解释:能告诉你为什么得出这个结论
- 专业性强:在特定领域可以达到专家级水平
- 规则可修改:专家可以直接调整规则,不需要重新训练
知识表示:如何让计算机”理解”知识
三元组:最简单的知识表示
所有知识都可以用”对象-属性-值”的形式表示:
Python - 类型 - 编程语言
Python - 发明者 - Guido van Rossum
Python - 语法特点 - 缩进语法
编程语言 - 用途 - 软件开发
看起来简单,但这种方式能表示复杂的知识网络。
推理规则:让计算机会”推理”
IF 动物吃肉 THEN 动物是肉食动物
IF 动物有锋利牙齿 AND 动物有爪子 THEN 动物是肉食动物
输入:狮子有锋利牙齿,狮子有爪子
推理:狮子是肉食动物
现实应用:专家系统无处不在
虽然现在神经网络很火,但专家系统在很多领域仍然不可替代:
医疗诊断
- MYCIN系统:诊断血液感染,准确率达到专家医生水平
- 优势:每个诊断都能给出详细解释
金融风控
# 信贷审批规则示例
IF 收入 > 10000 AND 信用分数 > 700 THEN 通过初审
IF 负债率 > 70% THEN 拒绝申请
IF 逾期次数 > 3 THEN 降低额度
工业控制
- 石油炼制过程控制
- 核电站安全监控
- 航空飞行控制
为什么这些领域还用专家系统?因为需要解释每个决策的依据,承担不起”黑盒”的风险。
语义网:让互联网变聪明
还记得”语义网”的概念吗?这也是符号AI的一个重要应用。
基本思路
把互联网上的信息都用三元组的形式标注:
百度 - 类型 - 搜索引擎
百度 - 创始人 - 李彦宏
百度 - 成立时间 - 2000年
这样搜索引擎就能”理解”网页内容,而不只是匹配关键词。
实际例子
- 知识图谱:Google、百度的知识面板
- WikiData:维基百科的结构化知识库
- 智能问答:Siri、小爱同学的知识查询
程序员视角:何时选择符号AI?
适合符号AI的场景
- 需要解释决策过程:医疗、金融、法律
- 规则相对固定:专业领域的标准流程
- 专家知识可以明确表达:诊断、审批、分类
不适合的场景
- 模式识别:图像、语音、自然语言理解
- 创造性任务:内容生成、艺术创作
- 大量数据驱动:推荐系统、搜索排序
技术实现
# 简单的专家系统示例
class ExpertSystem:
def __init__(self):
self.facts = set()
self.rules = []
def add_rule(self, conditions, conclusion):
self.rules.append((conditions, conclusion))
def infer(self):
changed = True
while changed:
changed = False
for conditions, conclusion in self.rules:
if all(cond in self.facts for cond in conditions):
if conclusion not in self.facts:
self.facts.add(conclusion)
changed = True
未来:符号AI与神经网络的结合
现在最前沿的研究方向是神经符号AI:
- 神经网络负责感知:处理图像、语音、文本
- 符号系统负责推理:逻辑推理、知识整合
- 两者结合:既有神经网络的学习能力,又有符号系统的可解释性
例如:
- 用CNN识别X光片上的异常区域
- 用专家系统根据医学知识进行诊断推理
- 给出诊断结果和详细解释
总结
符号AI虽然没有神经网络那么”火”,但在需要可解释性和专业知识推理的场景中仍然不可替代。
作为程序员,了解这些技术能帮助我们:
- 选择合适的AI技术路线
- 构建可解释的智能系统
- 在特定领域达到专家级效果
AI不只是深度学习,符号AI同样值得学习和应用。
下期预告:我们将深入探讨神经网络与符号AI如何结合,构建更强大的混合智能系统。
关注我,一起探索AI技术的多个面向!
本作品采用《CC 协议》,转载必须注明作者和本文链接