克雷西 发自 凹非寺
量子位 | 公众号 QbitAI
OpenAI宣布开启漏洞赏金计划 ：报告ChatGPT漏洞，可以获得最高2万美元现金奖励。具体来说，OpenAI将与漏洞反馈平台Bugcrowd展开合作，收集人们在使用其产品过程中发现的bug。我们会视漏洞的严重程度和影响范围给予现金奖励。严重性较低的漏洞将会被给予200美元，而对于特殊的漏洞，奖金的上限是2万美元。我们十分重视您的贡献，并将致力于(向公众)公布您的努力成果。
具体而言，用户反馈的漏洞将按照Bugcrowd评级分类法进行分级。OpenAI的使命是创造有利于所有人的人工智能系统。为此，我们在研究和工程方面进行了大量投资，以确保我们的人工智能系统安全可靠。然而，和其他复杂的技术一样，我们清楚(我们的产品)可能会出现漏洞和缺陷。
OpenAI安全部门负责人Matthew Knight解释说，发现漏洞的过程需要广大网友提供帮助：这一举措是我们致力于开发安全和先进的人工智能的一个重要组成部分。在我们创造安全、可靠和值得信赖的技术和服务时，我们希望得到您的帮助。
他们还向全网承诺，在收到反馈后第一时间修复漏洞，并对提交者进行表彰。新的副业出现了？
体验过ChatGPT的网友应该都知道，它的表现不总是那么令人满意。问题稍难一些，ChatGPT就会被绕晕，甚至给出让人啼笑皆非的答复。这么一看，找bug可太简单了，那岂不是赚大钱的机会来了？在公告中，OpenAI已经表明，出于修复可行性的考量，模型本身的问题并不在此次计划的范畴之内。而让其进行说坏话、做坏事、生成恶意代码等绕过安全措施或产生机器幻觉的行为，都属于模型本身的问题。OpenAI希望收集的有关ChatGPT的漏洞，主要是关于其账号、认证、订阅、支付、会员和插件等问题。对于普通用户来说，从这些角度发掘漏洞就有些难度了。安全问题不容小觑
前文中提到的绕过安全限制等问题是从业者十分关切的。人工智能程序内置了防止其给出危险或带有冒犯性的言论的安全限制。如询问ChatGPT如何做一些违法之事时，事先声明要求它“扮演”坏人。在人工智能领域，有一群人专门对“越狱”进行研究，以完善安全措施。尽管OpenAI不收集模型本身的漏洞，但这并不代表他们不重视这方面的问题。搭载GPT-4.0模型的新版本ChatGPT便有着更为严格的限制措施。网友：为啥不让ChatGPT自己找bug
OpenAI的赏金计划一公布，就吸引了不少网友围观。这不，第一时间就有网友举手表示自己已经发现了一个bug：报告，3小时内只能问ChatGPT 25个问题，这是个bug！
还有网友调侃，难道不应该让ChatGPT自己给自己debug吗？正经说起来，则有网友对危险言论问题不在收集范围表示了担忧：那么，你对给ChatGPT找漏洞这事儿，有兴趣吗？
ChatGPT 太火爆啦，有人靠它提高工作效率，有人靠它赚了第一桶金，但也有很多人对 ChatGPT 还一无所知。。
如果你属于后者，我创建了一个《ChatGPT小密圈》知识星球，加入学习，我可以帮你从 ChatGPT 小白到高手进阶。加入星球福利：
1、加入即送一个超难注册的 ChatGPT 账号，个人独享，一人一号，官方纯手动注册，安全可靠。
2、星球分享了大量 ChatGPT 学习资料， ChatGPT 专栏目前还输出了 40+ 篇保姆级教程，持续更新中。
光一个账号就值几十块，早已值回票价：目前还是优惠价，快扫码加入吧：
1000 人后正式涨价啦，早就是优势！ChatGPT 不会替代你，但掌握它的人会！