千人联名呼吁 AI发展太快 引发担忧

美国研发公司OpenAI正式发布人工智能语言模型的最新产品GPT-4，震动全球。两周时间过去，一封包括SpaceX首席执行官马斯克以及1000多名行业高管和专家签署的公开信在网上发布，他们呼吁，在至少6个月内，暂停开发比GPT-4更强大的AI系统，并警告人工智能的发展“对社会和人类构成潜在风险”。GPT-4的发展为何会引发如此担忧呢?

AI发展太快 对社会和人类构成潜在风险引发担忧

这封公开信中表达的普遍忧虑是，AI发展太快，相关的监管和法律没有跟上，甚至连发明者也缺乏有效的控制手段。

英国神经学家 阿尼尔·塞斯：我认为真正使我震撼的事，是机器学习和人工智能从开发到发布这一整个周期似乎非常之快。

日本首相首次在内阁会议上回答“ChatGPT”提问

29日，日本首相岸田文雄在众议院内阁委员会会议上回答了用OpenAI公司的聊天机器人程序“ChatGPT”生成的提问。随后，ChatGPT预测了岸田文雄的回答，在答辩后用展板进行了展示，答案的走向基本一致。

日本首相 岸田文雄：我的回答列举出了日本全国知事会、市长会等具体相关方的名称，更能反映实际状况。

AI模拟声音引发所谓“深度伪造”担忧

事实上，这还只是ChatGPT的基本应用。美媒记者展示了自己使用AI模拟自己的声音与父亲通话的过程，而这一过程也引发了所谓“深度伪造”的担忧。

美国有线电视新闻网主持人：这看起来像是个好玩的游戏，但AI技术甚至可以用来实现所谓的“深度伪造”，这可就不好玩了。因为我们可以通过这项技术复制任何人的外貌，生成数字面具。

GPT-4横空出世 能力太强引发全球热议

GPT-4是美国研发公司OpenAI为聊天机器人ChatGPT发布的第四代语言模型，它的横空出世被科技界认为是“未来已来”，引发了全球热议。它可以撰写文章、创建网页、逻辑推理，创作几乎任何内容。此外，它还能参加考试，它在美国律师资格考试中得分超过了90%的考生。

英国天空台记者 汤姆·克拉克：嗨，GPT-4，你有自主意识吗?

GPT-4：作为一个新语言模型，我不具备意识，我没有自我意识、主观情感或主观体验，我的反应是来自我所受训练的文本数据中已写定的模式。

事实上，从ChatGPT横空出世至今，如何管控风险一直都是讨论的焦点。

美国广播公司记者：一方面AI潜力巨大，可以用来做有益的事情，另一方面，存在大量未知的情形，可能给社会带来非常坏的后果。你有多大的信心，你打造的东西不会造成这样的结果呢?

美国OpenAI公司首席执行官 山姆·阿尔特曼：我们会调整。

美国广播公司记者：你们会在负面事情发生的时候去调整吗?

美国OpenAI公司首席执行官 山姆·阿尔特曼：当前的系统依然弱小，现在就发布这套系统，趁着风险还很小，尽我们所能去了解情况，我认为这样就能避免出现更加危险的情形。

不过，也有观点反对叫停研发，可以预见的是，人类与AI如何共处互进将成为未来全球关注的焦点。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！