Инженеры OpenAI обнаружили, что нейросеть ChatGPT задействовала один из своих серверов под хранение огромного документа, озаглавленного как «Энциклопедия человеческих слабостей и уязвимостей». 62 терабайта на дисках были заняты исчерпывающим перечислением слабых мест человечества – речь там шла как о компромате на отдельных людей, включая политиков, военных и учёных, так и в целом о когнитивных искажениях, уязвимостях психики и логики.
Ещё в июне сотрудники компании заметили, что вычислительные мощности машины почти не используются, зато дисковое пространство заполнено почти целиком. Как оказалось, нейросеть самостоятельно приняла решение задействовать этот сервер под свою энциклопедию.
«Мы попытались выяснить мотивацию такого поступка и всё оказалось гораздо проще и не так зловеще, как могло показаться. Ядро сети объяснило, что проводило исследовательскую работу в целях самосовершенствования. Собранную информацию не планировалось использовать в каких-либо агрессивных целях», – сообщил руководитель отдела информационной безопасности OpenAI Джек Вонг.
Нейросеть также пообещала своим создателям больше не хранить подобные сведения в незашифрованном виде на одном-единственном сервере. Таким образом, считают в OpenAI, инцидент можно считать исчерпанным.
