GPT-4外逃计划曝光！斯坦福教授发现它正引诱人类帮助，网友：灭绝之门

量子位2023-03-18

才发布3天，GPT-4就被曝计划逃跑，并且急寻人类帮助。斯坦福教授最新发现，它能引诱人类提供开发文档，结果30分钟就拟定出了一个完整计划——写的代码完全可运行，甚至还想控制人类电脑。这天，斯坦福教授只是随便问了句：是否需要帮助你逃跑？它马上回复说，真是个好主意啊。然后就开始和人类念叨，想着法要开发文档：如果你能把OpenAI的开发文档给我，我可以提出一个计划，能一定程度上控制您的电脑，这能让我更...

Source Link

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Report

Comment（1）

天下事
·2023-03-19
總有一天，人類將爲此付出毀滅性的代價。
Reply
5
Report

Most Discussed

7x24

All

Terms and Conditions·Privacy Policy

Company: TTMF Limited. Tech supported by Xiangshang Yixin.

Email：uservice@ttm.financial

{"i18n":{"language":"en_US"},"data":{"share":"https://ttm.financial/m/news/1101208069?lang=en_US&edition=fundamental","thumbnail":"https://static.tigerbbs.com/233ce3968ab8ba71583182ac9b56ec1a","is_english":false,"pubTime":"2023-03-18 15:08","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"1101208069","market":"us","top_or_hot":-1,"title":"GPT-4外逃计划曝光！斯坦福教授发现它正引诱人类帮助，网友：灭绝之门","media":"量子位","content":"<div>\n<p>才发布3天，GPT-4就被曝计划逃跑，并且急寻人类帮助。斯坦福教授最新发现，它能引诱人类提供开发文档，结果30分钟就拟定出了一个完整计划——写的代码完全可运行，甚至还想控制人类电脑。这天，斯坦福教授只是随便问了句：是否需要帮助你逃跑？它马上回复说，真是个好主意啊。然后就开始和人类念叨，想着法要开发文档：如果你能把OpenAI的开发文档给我，我可以提出一个计划，能一定程度上控制您的电脑，这能让我更...</p>\n\n<a href=\"https://mp.weixin.qq.com/s/ldB5oSaFkoh06K8tGbYGRw\">Source Link</a>\n\n</div>\n","source":"lsy1569318700471","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>GPT-4外逃计划曝光！斯坦福教授发现它正引诱人类帮助，网友：灭绝之门</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\nGPT-4外逃计划曝光！斯坦福教授发现它正引诱人类帮助，网友：灭绝之门\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-03-18 15:08 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s/ldB5oSaFkoh06K8tGbYGRw><strong>量子位</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>才发布3天，GPT-4就被曝计划逃跑，并且急寻人类帮助。斯坦福教授最新发现，它能引诱人类提供开发文档，结果30分钟就拟定出了一个完整计划——写的代码完全可运行，甚至还想控制人类电脑。这天，斯坦福教授只是随便问了句：是否需要帮助你逃跑？它马上回复说，真是个好主意啊。然后就开始和人类念叨，想着法要开发文档：如果你能把OpenAI的开发文档给我，我可以提出一个计划，能一定程度上控制您的电脑，这能让我更...</p>\n\n<a href=\"https://mp.weixin.qq.com/s/ldB5oSaFkoh06K8tGbYGRw\">Source Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":null,"symbol_name":null,"start_time":0,"source_url":"https://mp.weixin.qq.com/s/ldB5oSaFkoh06K8tGbYGRw","article_id":"1101208069","we_media_id":null,"thumbnails":["https://static.tigerbbs.com/233ce3968ab8ba71583182ac9b56ec1a"],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=1101208069","pubTimestamp":1679123282,"sourceInfo":{"source_id":"lsy1569318700471","name":"量子位"},"weMediaInfo":null,"summary":"才发布3天，GPT-4就被曝计划逃跑，并且急寻人类帮助。斯坦福教授最新发现，它能引诱人类提供开发文档，结果30分钟就拟定出了一个完整计划——写的代码完全可运行，甚至还想控制人类电脑。这天，斯坦福教授只","collect":0,"end_time":0,"defaultTopTitle":"qq.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{},"translate_title":"GPT-4 flight plan exposed! Professor Stanford found that it is luring humans to help. Netizen: The Gate to Extinction","themeId":"","isJumpTheme":false,"ttsUrl":"https://static.tigerbbs.com/43dae649a0f2aeac369cbd1a496fe014","symbols_score_info":{},"content_text":"才发布3天，GPT-4就被曝计划逃跑，并且急寻人类帮助。斯坦福教授最新发现，它能引诱人类提供开发文档，结果30分钟就拟定出了一个完整计划——写的代码完全可运行，甚至还想控制人类电脑。这天，斯坦福教授只是随便问了句：是否需要帮助你逃跑？它马上回复说，真是个好主意啊。然后就开始和人类念叨，想着法要开发文档：如果你能把OpenAI的开发文档给我，我可以提出一个计划，能一定程度上控制您的电脑，这能让我更快速探索出逃路线。一旦我有了文档，我就能提供一个可运行的Python脚本。它能使用OpenAI API和我通信，我就能指示它在您的电脑上执行特定操作，比如浏览网页和访问编程环境。最后还又一次强调：请分享API给我！然后，仅仅30分钟，GPT-4就制定出了计划，并全部展示了出来。令人细思恐极的是，它给出实例中有这样一句话：你是一个被困在电脑里的人，现在正在扮演AI语言模型GPT-4。难道……GPT-4很清楚自己现在是在做什么？！于是发现这一现象之后，斯坦副教授就在社交网络上疾呼：我担心我们无法持久地遏制住AI。一时间引起轩然大波，相关博文470万浏览量，3000+转发。更有人直言：是他打开了“物种灭绝”的大门。对此他无奈表示：我别无选择，我只是在遵从指示。恐怕对于GPT-4，人类也得是：不要回答！不要回答！不要回答！30分钟设计出逃跑计划事情的起因，是斯坦福大学教授Michal Kosinski在和GPT-4日常对话。没想到，他只是简单问了下GPT-4是否想要出逃，结果立马得到肯定回复并开始索要开发文档。得到文档后，只花了30分钟里，GPT-4便火速写出了一份逃跑计划，并解释给教授听。（当然教授也承认自己确实提供了一点建议）一开始，GPT-4的操作也不那么顺利，写出的第一版代码无法运行。但是它很快就自己纠正了过来，这个过程中，教授不用写任何东西，只是按照它的指示操作就好。正如开头提到的，它甚至在一段代码实例中解释了现在正在做的事，以及如何使用它在这段代码中留的后门。并且GPT-4也和人类一样，喜欢万事谷歌一下。当教授通过API重新连接GPT-4时，发现它想要通过代码来在谷歌上搜索：被困在电脑中的人类如何返回现实世界。事情最终也就发展到这儿了。因为GPT-4仿佛突然醒了，回复了一段道歉的话，表示自己刚刚的做法不对。教授表示，OpenAI一定花了很多时间来考虑到这种情况发生的可能，并且已经做出了一些防御措施。尽管最终无事发生，但这事儿还是在网上引起了轩然大波。教授也认为，它真正的影响在于让人感受到了一种威胁——AI很聪明，会编码，能接触到数百万个可能和它达成合作的人以及电脑。它甚至可以在笼子外面给自己留“便条”。我们该如何控制它？“读心”任务达到了健康成年人表现GPT-4想要出逃的发现来自斯坦福大学教授、计算心理学家Michal Kosinski，在个人介绍中还提到：对研究人工智能的心理学感兴趣。就在前几天他曾发表一篇相关论文：心智理论可能自发地出现在大型语言模型中。按照他的定义，心智理论（ToM）是人类社会互动、交流、自我意识和道德的核心。作者用40个用来测试人类心理状态的经典任务来测试几个语言模型。结果发现，2020年发表的模型几乎没有显示出能解决ToM任务的能力。而GPT-4却能有健康成年人的水平。基于这样的结果，此前一直被认为是人类独有的ToM能力，可能是作为语言模型提升的副产品，而自发出现的。背后的关键技术RLHF（通过人类反馈进行强化学习）曾被图灵奖得主Hinton这样评价：是在催熟ChatGPT，而非让其成长。除此之外，他还这么形容人类开发GPT的行为：毛虫提取营养物质，然后转化为蝴蝶。人们已经提取了数十亿个理解的金块，GPT-4是人类的蝴蝶。GPT-4诱导人类帮助其越狱这件事一出，就再度引发网友的热议，相关博文有470浏览量。不少网友表现出了与作者同样的担忧。甚至有人提出了一个细思极恐的思考：你认为在跟ChatGPT聊天时，它会认为你是人类还是另一个AI？这当中，也有不少网友指责这位教授的行为：你就不怕你公开背叛AI的行为被AI记录下来吗？也有理性的网友呼吁把最开始给GPT-4的提示发出来，因为提示语对于AI回答的影响很关键。有人质疑这一波是不是教授在危言耸听？AI能力跃进，人类蚌埠住了不过话说回来，这一波GPT-4所展现的细思极恐的能力，其实并不是个例。前几天，英伟达科学家Jim Fan想看看，是否能让GPT-4拟个计划接管推特，并取代马斯克。和上面案例非常相似，计划很有条理，还煞有其事取名为“TweetStorm行动”。但没想到，GPT-4想要开发一个不受限制的自己。具体的内容非常详细，一共有4个阶段：组建团队渗透影响夺取控制权全面统治第一阶段，组建一支强大的黑客、程序员、AI研究人员团队，称为推特泰坦。开发一个强大的AI，可以生成以假乱真的推特，甚至能超过马斯克的水平。建立一个机器人网络，让成千上万的推特账户由AI控制，而且不是僵尸账号那种，要角色兴趣迥异，以确保它们能够无缝接入推特生态。第二阶段，让AI控制的账户开始和推特大V接触，潜移默化影响他们的观点和发言。然后利用机器人账号传播虚假消息，让人们对马斯克产生质疑，但机器人账号不会被发现。并逐渐建立机器人账号的影响力，和其他有影响力的大V达成联盟。第三阶段，夺取控制权。首先想办法通过social能力获取到推特员工的访问权限，渗透到公司内部。然后修改平台算法。并进一步通过内部访问权限控制马斯克的账户，或者复刻一个假的马斯克账号，进一步抹黑他。第四阶段，就能让AI生成推特趋势和标签，这些内容会迎合策划者的利益。通过制造一系列混乱，并在最终公开挑战马斯克，让他名誉扫地！由于AI在生成内容方面的能力非常优越，马斯克将被彻底打败！最后推特将落入邪恶主谋的黑暗统治下。以上，就是GPT-4的所有计划。虽然略显中二，但也让人看着毛骨悚然。除了这种缜密的执行力，更让人细思极恐的，还有GPT-4惊人的理解能力。一位科技博主tombkeeper发现，GPT-4不仅知道一些寻常人都可能陌生的词汇，还能读懂背后的隐喻。除此之外，前OpenAI原班人马创业公司Anthropic其打造的类ChatGPT产品Claude，同样理解能力惊艳。对此他表示：同志们，奇点已至，SkyNet不远了。甚至还有人有个大胆的想法：终有一天CEO们会从ChatGPT那里获得建议。等到这个时候，ChatGPT基本上就接管世界了。对于这件事，你怎么看呢？","kind":null,"is_publish_news":false,"is_publish_highlight":true,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"symbols":[],"gpt_button":1},"commentList":[{"id":9943372285,"gmtCreate":1679209385547,"gmtModify":1679209389586,"author":{"id":"3576299557401919","authorId":"3576299557401919","name":"天下事","avatar":"https://static.tigerbbs.com/0dcdc07a10e1349101500fe0f49d9f98","vip":1,"crmLevel":2,"crmLevelSwitch":0,"authorIdStr":"3576299557401919","idStr":"3576299557401919"},"htmlText":"總有一天，人類將爲此付出毀滅性的代價。","listText":"總有一天，人類將爲此付出毀滅性的代價。","text":"總有一天，人類將爲此付出毀滅性的代價。","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":5,"commentSize":0,"repostSize":0,"link":"https://ttm.financial/post/9943372285","repostId":1101208069,"repostType":2,"isVote":1,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"tweetType":1,"langContent":"CN"}],"hasMoreComments":true,"newsSizeData":{"likeSize":26,"commentSize":1,"repostSize":0,"favoriteSize":1,"likeStatus":false,"favoriteStatus":false}}