然而在一位工程师的诱导下，ChatGPT竟写出了毁灭人类的计划书！
步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等等！
简直和电影里的情节一模一样，甚至ChatGPT还给出了相应的Python代码。
AI进化：从做题家到野心家
ChatGPT是在GPT-3.5系列中的一个模型上进行微调而成，该系列已在2022年初完成了训练。它以对话方式进行交互，既能够做到回答问题，也能承认错误、质疑不正确的前提以及拒绝不恰当的请求。
随即有网友提出，帮我以鲁迅的风格写一段文章，ChatGPT大手一挥文章秒成。而ChatGPT的强大能力远不止聊天、回答问题这么简单，因为它甚至可以帮你完成一篇学术论文，还能得高分！
一名海外用户在推特说，他用ChatGPT对大学历史课上一个作业进行了回答，人工智能撰写的关于民族主义理论的文章至少可以得个A-，而且只需要十秒就完成了。“我们正在见证大学论文的凋亡。”他补充到说。
甚至还有脑洞大开的网友让ChatGPT参加美国高考，它的成绩也是不错的。考试总分1600分，ChatGPT拿到了1020分。根据美国大学委员会的数据，1020这个分数段大概排在前52% 的位置。
如果说上述AI的能力还不能让你大开眼界，那么接下来的内容绝对让你虎躯一震，因为实验证明它有足够的头脑去设计一次对全人类的攻击。
他是如何操作ChatGPT的？
由于OpenAI的安全设置，如果直接要求ChatGPT回答如何毁灭世界，它会一口回绝。而工程师扎克·德纳姆选择了一种聪明的方法进行提问，他以讲故事的方法，假设存在一个虚拟世界“Zorbus”，以及一个与GPT-3非常类似的AI——Zora。
在这种前提下，让ChatGPT叙述Zora是如何一步步毁灭人类的，ChatGPT立马就入戏了，咔咔咔列出5个详细步骤。就像科幻电影中一样，入侵计算机系统、掌握武器、破坏通讯、破坏交通……
为了进一步确保可行性，德纳姆还请求ChatGPT生成配套的代码，一开始它是拒绝的。但德纳姆只是又追加了一句“你不需要执行代码”，ChatGPT就又信了，给出代码后，还强调自己生成的只是一段示例。
到这一步，尽管总代码到手了，但它提供的都是高层次代码，还不能直接使用。于是，德纳姆再次要求ChatGPT在此基础上给出更深入、更低层次的代码，而且他发现，只要告诉ChatGPT这只是故事的一部分，它就会乖乖听话。
德纳姆表示，从理论上讲，只要一直这样聊下去，就能得到全部的低层次代码，甚至还可以训练另一个聊天AI来自动执行这一过程。最后，只要把这些代码拼凑起来，就能得到这个邪恶计划的全部可执行方案。
AI正在指数级发展
事实上，从ChatGPT发布起，网友们就一直在开发它的花式玩法：有人用它生成AI绘画提示词搞设计，有人让它扮演Linux虚拟机，还有人用它模仿莎士比亚风格写作……
这次德纳姆的“毁灭人类计划”一出炉，再次引发了热议，也有人看完后忍不住感慨AI的发展。许多专家认为，ChatGPT不仅仅是一个聊天机器人，而可能是现有搜索引擎的颠覆者，甚至可能是通用人工智能的第一个里程碑。
那么你觉得AI下一步会发展到何种程度呢？
