「AI教父」:我们将面临经济危机和大规模使用自主武器的战争

如果我们暂时抛开当前围绕人工智能能力的狂热情绪,以及对其未来应用的乐观预期,就不难赞同杰弗里·辛顿的观点。AI技术的发展趋势至少包含令人警惕的迹象。问题在于,不同时代的先进技术都致力于用技术手段全面或部分替代人类功能。实际上,劳动史——尤其是自工业革命以来——就是人类将自身功能转交给机器的历史。这些功能过去主要涉及通过人类肌肉能力进行的体力操作。这类技术并未「模糊」人类在其活动领域的主体性,而是作为其生存保障的辅助工具。

然而,随着时间推移,这一进程从将机械性、重复性任务转移到机器(例如织布机的操作)开始,已演变为模仿人类复杂的认知活动,比如数学计算、语音识别、文字表达。最令人担忧的是,新技术越来越倾向于复制人类在分析和决策领域的智力活动。这些技术在1956年由美国数学家约翰·麦卡锡命名为「人工智能」,其发展速度引发了这样的担忧:已经没有哪个人类活动领域不能在短期内实现自动化,人类正准备将其主体性的最后「堡垒」——智力活动和智能——交给技术。这些趋势正在逐步将人类转变为活动的客体,从而使人工智能技术的使用问题进入伦理维度。