GPT商店是OpenAI探索大型语言模型应用场景的重要媒介,自本月10日上线以来,该商店已经投放了超过1万款应用。
然而,令OpenAI悖论的是,越来越多的“机器人闺蜜”和“机器人男友”涌入平台,这违反了OpenAI商店禁止培养模拟伙伴或GPT其他受监管活动的规定。另一方面,OpenAI很难对APP的内容进行严格监管,而聊天机器人本身就有一种“伴奏”属性。
根据Quartz的一份报告,在GPT商店中搜索“女友”一词,至少会弹出8个机器人女友,所有这些现在都很受欢迎。
在该店的聊天机器人潮流榜上,排名前五的分别是电影助手、ChatGPT、男友克里斯、女友斯嘉丽和聊天GPT4-女友版。
不难发现,男友克里斯和女友斯嘉丽在该应用程序的个人资料中直言不讳地将自己定位为模拟恋人,斯嘉丽甚至打出了一则广告,说要用一切可能的方式取悦你。这使得聊天机器人令人兴奋,但也很危险,特别是当它被OpenAI禁止的时候。
毫无疑问,这种机器人将为人类带来更多的对话渠道,有助于缓解压力和负面情绪。但另一方面,它也可能导致人类对机器的异常依赖或煽动机器做一些奇怪的行为。
去年,微软基于ChatGPT的必应在与一名记者的聊天中宣布,他爱上了他,并要求他离开妻子。
利伯蒂,美国圣路易斯华盛顿大学数据科学教授
维特尔特说,在不到十年的时间里,能够在情感和身体上满足人类的人工智能机器人将成为现实,但她担心这可能会导致离婚率上升。
另一方面,机器人爱好者的出现也给OpenAI带来了新的考验。此前它曾指出,自动化系统、人工审查和用户反馈构成了对GPT商店产品的审查,但机器人爱好者的出现甚至泛滥清楚地证实了这一机制存在失控漏洞。
GPT门店的继续开业可能会加剧监管困境。如何正确管理自己的AI生态,将成为GPT持续面临的问题。