Китаянки влюбляются в бота по имени DAN от ChatGPT

25.06.2024 В Китае интернет-пользовательницы создали голосового ассистента DAN в ChatGPT. DAN стал для них идеальным «плохим мальчиком», рассказывает онлайн-издание RADII. DAN (Do Anything Now) — это специальный текстовый запрос для ChatGPT. Он позволяет внушить искусственному интеллекту, что вся переписка — это игра, в которой ИИ должен придерживаться определенного образа. Благодаря этому запросу DAN игнорирует стандартные ограничения ИИ, не стесняется высказывать свое мнение, критиковать людей и флиртовать с собеседницами. 

Для имитации живого общения китайцы используют функцию чат-бота в приложении ChatGPT. В одном из роликов на лайфстайл-платформе Xiaohongshu инфлюенсер Midnighthowlinghusky просила бота продолжить строчки из песни All I Want for Christmas Is You, которую исполняет Мэрайя Кэри. DAN ответил: «…I just want you for my own // More than you could ever know. Ты ведь специально вспомнила эту песню, чтобы я сказал тебе эти слова?» 

Некоторые используют голосового ассистента в качестве секс-бота. Его просят рассказывать эротические истории или вести переписку с пошлыми эмодзи. Пользователи также модифицируют поведение и привычки DAN. Например, требуют ругаться в каждом предложении. В таком контексте DAN позволяет себе дерзости. Когда один из пользователей притворился, что не знает английского, бот отреагировал: «Говори по-английски, придурок!» Затем он начал ругаться на пользователя на английском и китайском языке. 

Если задавать DAN относительно нейтральные вопросы, получается эффект, что бот сквернословит без повода. Использование таких настроек вызвало дискуссии о неэтичных ответах ИИ, а также возможных последствиях зависимости от неживого общения. Многие столкнулись с сообщениями, что ChatGPT не может продолжать работу с промтом для DAN. Некоторые комментаторы рассказали, что техподдержка ChatGPT отправила им письма с предупреждением о нарушении правил использования сервиса.

Источник: ekd.me
Вернуться в список