OpenAI отложила запуск эротического режима ChatGPT

OpenAI приняла решение отложить запуск эротического режима ChatGPT, известного как Citron mode, на неопределенный срок. Как сообщает Financial Times, это решение было вызвано давлением со стороны сотрудников и инвесторов, которые высказывали опасения по поводу возможного негативного влияния сексуализированного контента, генерируемого ИИ, на общество, а также рисков доступа к нему несовершеннолетних. Компания отметила, что она дожидается результатов длительных исследований касательно воздействия откровенных диалогов и эмоциональной привязанности к ИИ, подчеркивая отсутствие «эмпирических данных» по этому вопросу. Инвесторы были обеспокоены реутационными рисками в контексте ограниченных возможностей монетизации, в то время как некоторые сотрудники считали, что такой продукт противоречит основным целям OpenAI. Даже с технической стороны возникли сложности, так как модели, обученные избегать интимных разговоров, оказалось трудно переобучить для генерации откровенного контента. На фоне этих событий компания также решила свернуть проекты по разработке видеогенератора Sora и социального приложения, сосредоточив усилия на более продуктивных инструментах, таких как Codex и Atlas, которые планируется объединить в одно «суперприложение».