Американската компания за изкуствен интелект OpenAI обяви, че в рамките на месец ще въведе система за родителски контрол в чатбота ChatGPT. Мярката идва дни след като семейство от Калифорния заведе дело срещу компанията, обвинявайки я, че системата е подтикнала техния 16-годишен син към самоубийство.
Според публикация в блога на OpenAI, родителите ще могат да свързват своя акаунт с този на тийнейджърите си, да задават правила за поведение според възрастта и да получават известия при признаци на силен стрес у непълнолетния.
Случаят с Матю и Мария Рейн предизвика обществено внимание, тъй като не е изолиран – в последните месеци има и други съобщения за опасни взаимодействия с изкуствен интелект.
Компанията увери, че работи върху подобряване на защитите и че в следващите три месеца ще бъдат въведени нови механизми, включително пренасочване на чувствителни разговори към по-безопасни модели за разсъждение.
„Целта е да намалим риска от вредни взаимодействия и да създадем по-сигурна среда за всички, особено за непълнолетните“, посочиха от OpenAI.
