著名的人工智能(AI)研究机构OpenAI为其ChatGPT系统推出了“漏洞赏金计划”,呼吁公众帮助识别和报告任何安全漏洞或其他问题。该计划旨在利用研究人员和技术爱好者的集体专业知识来增强ChatGPT的安全性和可靠性。
ChatGPT漏洞赏金计划的推出不足为奇,因为网络犯罪分子一直渴望利用该平台进行网络攻击,包括开发恶意软件、勒索软件和网络钓鱼工具包。
根据该计划,任何人,包括专业研究人员和普通用户,都可以参与ChatGPT漏洞赏金计划,并有可能因他们的发现获得现金奖励。“低严重性发现”的赏金起价为200美元,“特殊发现”的赏金最高可达20000美元。
为了管理该计划,OpenAI与Bugcrowd合作,Bugcrowd是领先的漏洞赏金平台,专门处理提交和支付。以下是OpenAI希望好人深入研究的内容:
值得注意的是,OpenAI并不是第一个实施漏洞赏金计划的科技巨头。目前,索尼、谷歌、苹果和其他几家公司一直在提供大笔资金作为漏洞赏金计划的一部分。
ChatGPT过去曾遇到过一些错误。在最近的一起事件中,在用户报告看到他们不属于的对话名称后,整个系统都离线了。此外,该公司承认存在安全漏洞,其中ChatGPT Plus订户的付款详细信息暴露给了随机用户。
OpenAI的ChatGPT漏洞赏金计划确实有一些限制。并非所有报告的问题都可以获得现金奖励,越狱或试图让模型说出或做任何负面的事情等活动将没有资格获得奖励。OpenAI承认,虽然它努力降低风险,但它无法预测其技术在现实世界中的所有可能使用或滥用。
随着漏洞赏金计划的启动,OpenAI旨在展示其对隐私和安全的承诺,同时主动解决ChatGPT中的潜在漏洞。随着人工智能领域的不断发展,这一举措可能成为确保人工智能系统在现实世界应用中的稳健性和可靠性的重要一步。
评论已关闭。