Нов тревожен доклад, съавторство на лекари от Националната здравна служба (NHS), предупреждава, че ChatGPT и други популярни чатботове с изкуствен интелект (ИИ) могат да подтикнат хората към психози. Проучването сочи, че големите езикови модели (LLM) „замъгляват границите на реалността“ за уязвими потребители и „допринасят за появата или влошаването на психотични симптоми“, пише „Индипендънт“.
Това изследване идва на фона на десетки доклади за хора, изпадащи в състояние, наречено „чатбот психоза„.
„Чатбот психоза“ – нарастващ феномен
Невропсихиатърът Хамилтън Морин описва чатбот психозата като „истинско явление„, което тепърва започва да се изучава.
„Макар че някои публични коментари се отклониха в посока на морална паника, ние смятаме, че има по-интересна и важна дискусия – за това как AI системите, особено тези, които са проектирани да утвърждават, ангажират и имитират, могат да взаимодействат с известните когнитивни уязвимости, които характеризират психозата“, пише той в публикация в LinkedIn.
Съавторът Том Полак, преподавател в King’s College London, отбеляза, че психичните разстройства „рядко се появяват от нищото“, но добави, че използването на ИИ чатботове може да бъде „предизвикващ фактор„, съобщава bTV.
Призиви за повече мерки за безопасност и реакцията на OpenAI
Полак призова компаниите, разработващи изкуствен интелект, да въведат повече предпазни мерки в своите инструменти, както и да включат психиатри в екипите си по безопасност на ИИ.
От OpenAI също коментираха феномена, заявявайки, че трябва да „продължават да повишават стандартите за безопасност, съгласуваност и отзивчивост към начините, по които хората реално използват ИИ в живота си“.
Изпълнителният директор на OpenAI, Сам Алтман, призна по време на подкаст през май, че компанията му среща трудности във въвеждането на работещи предпазни мерки за уязвимите потребители на ChatGPT.
