“视觉”AI模型局限性引关注:可能并未真正“看见”世界
作者: CBISMB
责任编辑: 张金祥
来源: ISMB
时间: 2024-07-12 11:34
关键字: 视觉AI模
浏览: 1
点赞: 0
收藏: 0
7月11日《量子杂志》发表了一篇深度报道,对当前“视觉”AI模型的局限性进行了深入探讨。文章指出,尽管这些模型在物体识别和图像分类等任务中表现出色,但它们可能并没有形成真正的视觉世界内部表征,而是依赖于训练数据中的统计模式和相关性。

这一发现对人工智能的未来及其潜在应用具有重大意义。文章提到,当前AI模型的这种局限性会导致它们无法很好地推广到新情况、进行推理以及执行需要常识推理的任务。换句话说,这些模型可能并没有像人类那样真正地“看待”世界。
为了解决这个问题,研究人员正在探索从生物视觉和认知科学中汲取灵感的人工视觉替代方法。这些方法可能涉及将更明确的物体、场景和物理约束表示纳入模型中,以提高AI系统的透明度和可解释性。
文章还提到了几个具体的AI模型示例,这些模型已被证明容易受到对抗性攻击的影响。在这种攻击中,对图像的微小扰动就会导致模型做出错误的预测。这进一步证明了当前AI模型在视觉处理方面的脆弱性。
作者还讨论了AI模型发展偏差和偏见的可能性,这反映了训练数据中存在的偏差。这也强调了在开发AI系统时需要考虑数据多样性和公平性的重要性。