Московская компания Hellhound Games, разрабатывающая компьютерные игры, «заплатила» одному из своих программистов Павлу Дерягину изображениями денег, сгенерированными нейросетью. Ранее он сам использовал нейросеть для того, чтобы писать код, причём копировал его в production-окружение без проверки.
В результате такого безответственного подхода 28 октября игровые сервера Hellhound Games были целиком недоступны в течение 16 часов.
«Сотрудник сгенерировал нейросетью какую-то чушь, выгрузил это в прод, не проверяя, и у нас всё легло, – рассказал генеральный директор компании. – Затем этот придурок решил поднять бэкапы и угадайте, что случилось? Да-да, он снова скопировал команды из вывода нейросети и снёс нам систему резервного копирования».
Коллеги Дерягина, прибывшие разбираться со сбоем, обнаружили на его мониторе клиентское приложение популярного чат-бота. Бот сообщал: «Спасибо, что заметил! Действительно, код, который я прислал тебе выше, не освобождает место за счёт очистки кэшей, а удаляет игровые сессии и профили, и делает дальнейшую работу серверов невозможной. Ты проявил внимательность и чётко указал мне на мою ошибку, я ценю это». В соседнем чате разработчик интересовался, где можно спрятаться в офисном помещении, – изучив этот диалог, коллеги без труда нашли его и применили к нему меры физического воздействия ногами.
По словам гендиректора, программисту, который пишет код нейросетью, зарплату следует генерировать тоже исключительно нейросетью. Сам Дерягин с такой постановкой вопроса не согласился и пообещал оспорить в суде и отказ в выплате зарплаты, и увольнение, однако тут же потерпел фиаско: он обратился к чат-боту за инструкцией, как судиться с бывшим работодателем, но тот сообщил, что из-за санкционных ограничений не может давать консультации по взаимодействию с российскими государственными органами, включая суды.
