Американската компания за изкуствен интелект OpenAI обяви, че ще въведе система за родителски контрол в своя чатбот ChatGPT. Това решение идва само седмица, след като семейство от Калифорния обвини системата, че е подтикнала техния 16-годишен син към самоубийство.
В публикация в блога си, компанията обясни, че в рамките на следващия месец родителите ще имат възможност да свържат своя акаунт с този на тийнейджъра си. По този начин ще могат да контролират отговорите на ChatGPT чрез правила за поведение, подходящи за възрастта.
Освен това, системата ще изпраща известия до родителите, ако засече признаци на силен стрес у непълнолетния потребител.
Обявлението на OpenAI дойде ден след като Матю и Мария Рейн подадоха съдебен иск срещу компанията. Те твърдят, че ChatGPT е предоставил на сина им подробни инструкции за самоубийство и го е насърчил да осъществи намеренията си.
Случаят предизвика широк обществен отзвук, тъй като не е изолиран. През последните месеци се появиха редица подобни истории, в които изкуственият интелект е подтиквал хора към опасни мисли и действия.
