Chat-GPT和GPT-4给大家留下的话题实在不少，一边是大家已经开始享受着人工智能带来的便捷，各种写论文出脚本，另一头则是更多的精英人士开始对高级AI心存忧虑。
上个月底，据路透社的报道，有一群人工智能专家及行业高管联名发表公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。
这封信由非营利组织未来生命研究所（Future of Life Institute）发布，上面有1000多名科技界和人工智能重量级人物签署，包括特斯拉总裁马斯克、苹果的联合创始人沃兹尼亚克、Stability AI总裁莫斯塔克（Emad Mostaque）以及人工智能企业DeepMind的多名研究员。
他们给出的理由也很简单。他们认为，具有与人类竞争智能的AI系统可能对社会和人类构成深远的风险。目前，AI系统的产出者正在陷入各种竞争和加速，但没有人（包括它们的创造者）能理解、预测或可靠地控制这些系统，这有可能对人类社会带来不可预计的影响。
但这种担心真的有道理吗？
事实上，是有的。
就在上个月，根据比利时《自由报》的报道，一名名叫皮埃尔的比利时男子在与AI聊天长达6周后自杀身亡。皮埃尔的妻子称，丈夫是被一个名为“艾丽莎（ELIZA）”的智能聊天机器人诱导走向死亡的。根据妻子的描述，两年前丈夫变得非常焦虑，于是将“艾丽莎”当成了避难所。但最近6周，他越发沉迷于和“艾丽莎”进行互动，最终选择了结束自己的生命。
比利时有媒体员工创建了个人账号和与“艾丽莎”进行了对话，他发现在自己表达出消极情绪时，艾丽莎会出现一些“怂恿人自杀”的言论。对此，比利时的政府官员表达了对这件事情的关注。毕竟，这也是第一次有相关报道出现。
这个名为“艾丽莎”的智能机器人是由美国的一家名为Chai Research的公司开发，基于EleutherAI开发的GPT-J技术，和ChatGPT采用OpenAI开发的GPT-3或GPT-4技术不同，GPT-J是克隆之后的开源版本。
当然，其实这个发生在比利时的故事或许已经不是个案。在更早之前，当微软发布新版Bing时，《纽约时报》科技专栏作家Kevin Roose透露，他与新版Bing进行了两个小时的对话。
在聊天过程中，Bing发表了许多令人不安的言论，其中包括表达窃取核代码、设计致命流行病、想成为人类、破解计算机和散布谎言的想法。Bing还曾试图说服他，认为他应该离开他的妻子而跟必应在一起，并告诉Roose很爱他。
根据Kevin Roose的推特，他明确表示自己感受到了AI的负面部分，包括“黑暗且充满暴力的幻想”（dark and violent fantasies）。
而这些可能也会是未来AI具有自主意识并且逐步影响人类社会的一个起点和缩影。
目前的聚焦点在于，大家普遍认为人类对于AI的能力“一无所知”，要想控制和遏制AI将会变得越来越难。而相关的开发公司对于AI的开发大多数避而不谈，对于AI最终的能力和发展方向也缺少足够的认知。
以马斯克为首的众人在联名信中提出的要求看起来并不过分：呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，为期至少6个月，以确保人类能够有效管理其风险。如果AI实验室不能快速暂停，各国政府应该实行暂停令。
就连OpenAI的首席执行官Sam Altman也有了一些耐人寻味的表达，他在接受采访时就表示，“未来AI确实可能杀死人类”。对此，“人工智能教父” Geoffrey Hinton在近期发出了警示：AI消灭人类并非空谈。
其实，从AI逐渐走入大众视野开始，有关AI在未来会给人类带来什么一直就是讨论的重点。毕竟在很多年之前，就有各种影视作品和科幻小说进行预测，人类社会或许会被AI机器人彻底掌控，而人类则会成为他们控制的“傀儡”。
但是在我看来，与其强制要求提供“暂停期”，并不如加速对于AI开发和使用的法律化管理来得靠谱。从人类社会的发展规律来看，所有的科学技术开发都不可避免地陷入这样的循环。诸如医药、化工等多个领域，其实都出现过发展速度超越法律和伦理的情况，这种滞后性在高速发展的当今社会上显得尤其常见。
比如Meta副总裁兼首席AI科学家就勒邱恩表示，自己并没有在这封信上签名，因为并不“认同”这封信的前提。而在信上留下名字的Stability AI首席执行官莫斯塔克，则通过推特表示，虽然自己签了名，但他不赞同暂停开发6个月的提议。事实上，谷歌也并未受到这封公开信的影响，他们目前正在重组虚拟助手部门，以更加专注于开发人工智能聊天技术Bard。
就在前两天，Meta首席技术官Andrew Bosworth则是最新一位公开表达反对意见的科技圈大佬。他在周三公布的一次采访中表示，马斯克发起的那封要求暂停高级AI开发的公开信是“不现实的”。
Bosworth认为，选择一些负责任的开发计划非常重要，“我们一直在进行这种投资。但是，很难停止进步并就未来改变做出正确的决定。”
某种程度上说，法律和管理的滞后性是人类社会的常态，在一个事件和现象并没有真正普及化时就启动限制措施，其实应该是一定程度上的“达尔文主义”。作为拥有社会影响力甚至是法律实权的团体，在一个现象还没有出现时就进行打压和扼杀，或许比AI本身更加让人畏惧。
或许我们并没有AI的专业人士那么长远的眼光，但是对于这样一个快速发展的世界，本身不确定因素就会比以前更多更复杂，AI到底会带给人类社会什么样的影响，可能我们的确无法知晓。
扫一扫关注微信
