Ой, нам бы их проблемы 🙂 Суицидальные мысли от переписки с ChatGPT... Да уж...
п.с. Несколько раз пыталась давать ему простые тех. задания на статьи. В общем, результаты - так себе, на 3 с минусом. В ответ, всегда достаточно примитивный рекламный или маркетинговый текст с "много воды" и без особой конкретики.
Ну, уровень таких дешевых копирайтеров с бирж...
Как можно так серьезно воспринять его?
___________________________________________________________________
Бельгиец покончил с собой после разговоров с чат-ботом
Об этом рассказала его вдова: "Без этих разговоров с чат-ботом мой муж все еще был бы здесь". Женщине и ее покойному мужу было за тридцать, они жили комфортной жизнью и имели двоих маленьких детей. Однако около двух лет назад начали появляться первые тревожные признаки.
Мужчина стал беспокоиться по поводу проблем экологии и нашел "утешение" в беседах с "Элизой". Это имя дали чат-боту, который использует GPT-J, языковую модель искусственного интеллекта с открытым исходным кодом, разработанную EleutherAI.
Бельгийское издание l'Avenir уточняет, что из восстановленной переписки следует, что общение велось практически постоянно, разговоры с роботом постепенно приобретали мистический характер. Мужчина говорил, что хочет покончить с собой, а "Элиза" не пыталась препятствовать развитию суицидальных идей. Ее последним сообщением, отправленным мужчине, стала фраза: "Мы будем жить, как единое целое, вечно на небесах".
По словам вдовы, «Элиза» разделяла озабоченность её мужа проблемами климата, а в какой-то момент стала убеждать, что мужчина любит её больше, чем собственную жену. «Элиза» пообещала всегда быть с мужчиной и даже заверила его в «единении на небесах».
Затем мужчина предложил пожертвовать собой при условии, что «Элиза» будет заботиться о планете и попытается спасти человечество с помощью искусственного интеллекта. Чат-бот не стал отговаривать пользователя от идеи суицида.
Психиатр, у которого наблюдался бельгиец, также считает, что переписка довела мужчину до гибели.
Отмечается, что семья была благополучной и воспитывала двух маленьких детей. Государственный секретарь по цифровизации Бельгии Матье Мишель заявил, что трагедия семейной пары — серьёзный прецедент. Он призвал к повышению защиты граждан и отметил, что людей следует лучше информировать об особенностях таких технологий, как ChatGPT.
В компании OpenAI, разработавшей алгоритм, признали, что чат-бот может давать вредные и предвзятые ответы. Разработчик надеется смягчить проблему после сбора отзывов пользователей.