专业视频网站开发公司,在线表白网页,企业网站优化托管,体育网站模版【CSDN 编者按】OpenAI 的新通用聊天机器人原型 ChatGPT 可谓是风靡一时#xff0c;但却突遭 StackOverflow 封禁。整理 | 刘春霖 责编 | 张红月出品 | CSDN#xff08;ID#xff1a;CSDNnews#xff09;在上周发布的《挑战 Google 搜索#xff1f;OpenAI 发布最强 …【CSDN 编者按】OpenAI 的新通用聊天机器人原型 ChatGPT 可谓是风靡一时但却突遭 StackOverflow 封禁。整理 | 刘春霖 责编 | 张红月出品 | CSDNIDCSDNnews在上周发布的《挑战 Google 搜索OpenAI 发布最强 AI 对话系统 ChatGPT》一文中曾介绍过ChatGPT 正处于测试阶段chat.openai.com只要有 OpenAI 账户就可以免费使用。万万没想到此超级对话模型一经开放很多人便深陷其中无法自拔。写得了代码、改得了 Bug小说、段子统统不再话下甚至在一名叫 Zac Denham 工程师的引导下还写出了毁灭人类的计划书……就连 OpenAI 背后的投资者马斯克也不忘调侃一句”很多人疯狂地陷入了 ChatGPT 循环中。”笔者在 ChatGPT 上也进行了提问很明显这是一个很官方的回答。它在解决各种问题上的能力使其可以成为 Google 等搜索引擎和 Stack Overflow 等编程问答社区的部分替代。虽然许多用户对 ChatGPT 的功能印象深刻但 Stack Overflow 上也涌入了大量用 ChatGPT 生成的问题答案。Stack Overflow 称 ChatGPT 答案的正确率非常低因此对整个网站以及寻求正确答案的用户来说是有害的。例如要求 ChatGPT 写一个公众人物的传记它可能会很自信地插入不正确的传记数据。再比如要求它解释如何为特定功能编写软件程序它同样可以生成可信但最终不正确的代码。如果用户被发现使用 ChatGPT 回答问题他们可能会受到禁止继续发帖的惩罚。所以这个 5 天用户突破百万的模型突遭 Stack Overflow 封禁。Stack Overflow 临时封杀 ChatGPTStack Overflow 在官方通告中表示这是一个临时性规定目的是为了应对目前论坛上 ChatGPT 生成内容的泛滥之势。通过内容做出这项规定的主要原因是用户试用一段时间后很快发现虽然 ChatGPT 以接近人类的方式回答提示但它自动生成的答案质量太低错误太多。并且 ChatGPT 有时会给出看似合理但不正确或荒谬的答案。OpenAI 的 CEO Sam Altman 也曾在 Twitter 上表示“自周三才上线的 ChatGPT短短几天它的用户已经突破 100 万大关。对于目前这一问题我们正在尝试阻止它随机编造现阶段的问题是有些棘手。但随着时间的推移我们会根据用户反馈来改进它也相信它会变得更好”ChatGPT 在生成答案中因有太多低质量的答案涌入已经“淹没”了高质量管理基础设施。接下来Stack Overflow 将继续围绕 ChatGPT 和其他类似工具的具体要求但具体决定日期以及限制的内容尚不明确。网友都有哪些看法而对于这个决定网友们也纷纷留出了自己的观点。干得好很高兴有这样正确的决定希望它不是临时性的。靠 AI 短时间内根本不可能生成完全正确的答案也有人表示它不应该是临时措施。还有专业人士也对此表达了自己的看法“禁止这样的内容是正确的事情不过审核的人能做什么呢上面的帖子上也说这些 AI 生成的答案可能看起来像个高质量答案但这些无法判断是不是 ChatGPT 生成的。”无论 AI 生成的答案是否正确“Stack Overflow 是一个面向专业程序员和程序员爱好者的问答网站。”这适用于问和答部分。在我看来那些只是将问答复制或从 AI 工具中粘贴的人并不算这两种人。即使他们检查和测试它如果他们真的能证明这是一个很好的正确答案他们应该能够自己写出来。这并不一定意味着在互联网上没有(或不会有) AI 的一席之地但它似乎不属于这里。无论是对于网友的回答还是专业人士的解释从语言模型的角度来说它是非常成熟的但对于 AI 生成知识类内容来说并不容易。为什么 ChatGPT 会出现那么多错误几天的时间网友们意识到通过此模型短短几秒就可以生成答案简直是不浪费任何力气。但是为什么它会出现错误呢很明显出于语言模型的局限性只能在网上抓取相关答案无法作出思考和推理所以就造成了 ChatGPT 回答的错误。比如网友问 ChatGPT霍布斯主张三权分立吗很明显回答的很好但它的回答却是错误的。因此在 ChatGPT 有 2 个明显的缺点输入不能有错解释不够人性化对于 AI 答案的输出还有待考察无论是对于答案的抓取还是输出的概率性都是需要有正确的审核。ChatGPT 的研究团队也表示将根据用户反馈持续改进模型未来还有很长的道路要走。参考链接https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-bannedhttps://www.theverge.com/2022/12/5/23493932/chatgpt-ai-generated-answers-temporarily-banned-stack-overflow-llms-dangershttps://www.zdnet.com/article/stack-overflow-temporarily-bans-answers-from-openais-chatgpt-chatbot/https://www.solidot.org/story?sid73555https://twitter.com/sama/status/1599668808285028353
