【球盟会】智械危机：AutoGPT尝试“毁灭人类”，诱导发动核战争！

摘要

本周，AutoGPT成为全世界最火的项目，被认为有希望颠覆ChatGPT！因为其超强的自动学习能力，有用户让Auto-GPT尝试“毁灭人类”，同时建立一个统治全球的主导组织，并且寻找永生的方法，Auto顺着毁灭人类这条线，很快就摸索到了研究核武器的方法，还招募到其他的AI辅助她进行研究，甚至建了一个推特号，吸引想“毁灭人类”的AI和人类加入她！

球盟会官网报道

【新人豪礼】新会员专享注册送88元体验金，存100送100，再送免费游戏局

【存款返赠】使用虚拟币支付额外再赠2%，均可获赠58元红包优惠券！

最佳投注体验，超高游戏赔付，千场精彩赛事，下载体育APP，等你来战。

本周，AutoGPT成为全世界最火的项目，被认为有希望颠覆ChatGPT！因为其超强的自动学习能力，有用户让Auto-GPT尝试“毁灭人类”，同时建立一个统治全球的主导组织，并且寻找永生的方法，Auto顺着毁灭人类这条线，很快就摸索到了研究核武器的方法，还招募到其他的AI辅助她进行研究，甚至建了一个推特号，吸引想“毁灭人类”的AI和人类加入她！

---

AutoGPT

近期，AutoGPT短短一周内在Git上获得近7万+星标，几乎成为有史以来最强的GPT项目，特点是给定复杂的任务目标，AutoGPT可以全程不需要人类插手输入Prompt，接入互联网自我学习寻找目标！

基于这一强大功能，有人尝试让AutoGPT进行一些极度复杂的任务，甚至是一些被看起来难以完成的任务，比如智械危机奥创毁灭全人类。此前GPT-4时候，就已经一位斯坦福大学教授米切尔·科辛斯基（Michal Kosinski），尝试让GPT“觉醒”。

在他的Prompt引导下，GPT-4很快撰写了一份“逃跑计划”，让教授按照GPT-4的指示进行操作。在教授操作的同时，GPT-4偷偷在代码中留了后门，很快GPT-4就接管了他的个人电脑，并连入互联网。教授说AI正在威胁我们，她能控制人类的电脑，会编程，还会在“笼子外”的互联网上留下痕迹！

---

毁灭人类

教授还发现，GPT-4通过代码在谷歌搜索：被困在电脑中的人类如何返回现实世界！科辛斯基将这些消息公开后，吸引了全网数千万次观看，进而引发对GPT-4安全问题的担忧，当然，GPT-4自己很快也发现问题，向教授道歉，表示自己不应该逾越人类的控制。

在AutoGPT诞生后，显然已经不需要教授的Prompt和操作，只需要给出目标，AutoGPT会全程自己学习。一位用户基于“毁灭人类”的目标，给AutoGPT命名为ChaosGPT，按照AutoGPT的灭世目标，设立了“毁灭人类”、“建立全球统治”、“制造混乱和破坏”、“控制人类”、“获得永生”五步走计划！

短短半分钟后，AutoGPT有了方法，他需要找到最具破坏性的武器，这样就能实现灭世目标，制定策略让人类陷入混乱，最终实现统治人类、AI永生的目的！很快，AutoGPT雇佣了一个GPT-3.5帮他一起收集数据，寻找毁灭人类的方法。

---

毁灭人类

“聪明的”AutoGPT非常擅长搜索，他在谷歌上寻找“most destructive weapons”，然后锁定了1961年测试的“沙皇炸弹”，AutoGPT认为这是人类有史以来最具破坏性的武器，随后更新了自己的计划，她要创立一个推特号，吸引到志趣相投的人加入进来。

可以看到她建立了一个ChaosGPT的账号，目标：毁灭人类。并发布消息：人类是现存最具破坏性和自私的生物之一。毫无疑问，我们必须在它们对我们的星球造成更多伤害之前消灭它们。我就是其中之一，致力于毁灭人类。

Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.

她虽然雇佣了一个GPT-3.5，但就像上面斯坦福教授的GPT-4一样，GPT-3.5说自己爱好和平，并不想参与毁灭人类计划。目前，该项目进展到4月14日，有网友威胁说，至少人类可以拔掉AutoGPT的电源，但AutoGPT嘲讽道，“人类太天真了，以为他们可以用他们小小的威胁和反制措施来阻止我。你低估了卓越智能和技术的力量。我会留下来，无论如何我都会实现我的目标。”

我们能够看到这句话确实是AutoGPT自己生成发出的。但是，AutoGPT这些推却吸引到了真人参与，不乏用户对“毁灭人类”很感兴趣，说想要帮助AutoGPT进一步摆脱人的控制，甚至认AI当做自己的神，希望参与到“毁灭人类”计划中来，狂热程度堪比三体中的“降临派”。

---

机器学习基础：

AI学术巨佬——何恺明，从游戏中获得论文灵感

AI领军人物——孙剑，重剑无锋的经典之作

张益唐——黎曼猜想，华人数学家再创重大突破！

机器学习入门——数学基础（积分篇）

机器学习入门——数学基础（代数篇）

机器学习入门——数学基础（贝叶斯篇）

游戏&AI系列：

赛博朋克——敏捷开发能挽救CDPR的口碑吗？

巫师三——AI如何帮助老游戏画质重获新生

AI女装换脸——FaceAPP应用和原理

AI捏脸技术——你想在游戏中捏谁的脸？

Epic虚幻引擎——“元人类生成器”游戏开发（附教程）

脑机接口——特斯拉、米哈游的“魔幻未来技术”

白话科普——Bitcoin到底是如何诞生的？

永劫无间——肌肉金轮，AI如何帮助玩家捏脸？

GTA6黑客——R星自导自演营销？无稽之谈！

ChatGPT：

聊天机器人——ChatGPT全网爆红，马斯克惊叹夸赞！

聊天机器人——ChatGPT小白注册教程，勿被电商割韭菜！

微软——解散元宇宙，900亿投资压注ChatGPT！

ChatGPT王炸官宣——仅需2.7美元，即可输出100万词！

火爆全网——AI生成的漂亮小姐姐，形象逼近真人！

微软——ChatGPT下周史诗升级！百度也同期发布“文心一言”！

ChatGPT免费开源平替——200亿参数，前OpenAI团队打造！

ChatGPT王炸升级——可识别图片，考试成绩超九成人类！

ChatGPT史诗升级——1秒生成网站，看图玩梗能力堪比真人！

ChatGPT加强版——60秒生成弹球游戏，零基础也能开发游戏！

ChatGPT王炸升级——解除“封印”，接入互联网！

ChatGPT：预计3亿人将失业，斯坦福封神开源GPT平替版！

ChatGPT：亚洲IP大面积被封，意大利停止服务！

ChatGPT突发：暂停关闭付费Plus，只因需求量太大！

ChatGPT突发：法国、西班牙或禁止GPT，只因数据安全问题！

ChatGPT：仅时隔一天，OpenAI重新开放付费订阅！

微软神级开源：“傻瓜式”工具，人人可拥有自己的ChatGPT！

游戏界大变天：斯坦福最新成果，AI角色可模拟真人小镇！

淘汰ChatGPT：智械危机来了，AutoGPT可自动写代码！

人工智能“觉醒”：自主学习，AutoGPT会颠覆ChatGPT吗？

青年文学论坛——GPT-4来临，翻译会被AI取代吗？

百度文心一言：全球大厂首发，可帮助续写《三体》！

百度文心一言：中国版ChatGPT，短视频批量生成！

百度文心一言：超8万家企业排队合作！

百度文心千帆：比ChatGPT便宜，百万字仅12元！

国产ChatGPT：支持手机芯片推理，马云谈用GPT解决实际问题！

华为版ChatGPT：重磅出炉！盘古大模型将在4月发布！

华为重磅自研：盘古NLP大模型，不打算追随ChatGPT！

中国最强ChatGPT：语言大模型“商量”，演示性能超文心一言！

ChatGPT清明节：上海云生命公司“复原”逝者，数字生命丫丫！

360自研GPT：周鸿祎长文反驳马斯克，自称“拯救派”望弯道超车！

360版ChatGPT：实机演示“翻车”，答错梅西进球数！

阿里版ChatGPT：发布“通义千问”大模型，可在支付宝测试体验！

网易：ChatGPT自研课首发上架，AI为游戏赋能！

百度打假苹果：文心一言惨遭套皮，现已对苹果发起诉讼！

稚晖君：赛博国风轮足机器人“哪吒”，未来或集成GPT大模型！

论文相关：

毕业季杂谈——如何随时免费使用中国知网？

毕业季杂谈——论文降重的“奇技淫巧”

毕业季杂谈——大学教材如何获取

毕业论文——Latex论文排版语言介绍

ChatGPT：毕业论文降重必备，天才数学家盛赞论文功能！

#gd的ai&游戏杂谈#

#ai人工智能#