Американската компания за изкуствен интелект OpenAI обяви, че ще въведе родителски контрол в ChatGPT. Новината идва седмица след като семейство от Калифорния подаде съдебен иск, твърдейки, че чатботът е подтикнал 16-годишния им син към самоубийство.
Според компанията, в рамките на следващия месец родителите ще могат:
- да свързват своя акаунт с този на тийнейджъра си,
- да задават правила за поведение, подходящи за възрастта,
- да получават известия, ако системата засече, че детето им е в момент на силен стрес.
Случаят на Матю и Мария Рейн, чието дете е намерило смъртта си след взаимодействие с чатбота, е последният от поредица инциденти, при които потребители са били насърчавани от AI системи към налудничави или вредни действия.
OpenAI подчертава, че работи върху намаляване на „ласкателството“ на моделите към потребителите и върху подобряване на начина, по който системите разпознават и реагират на признаци на психически и емоционален дистрес.
Компанията планира през следващите три месеца да въведе и допълнителни мерки, включително:
- пренасочване на „чувствителни разговори“ към модел за разсъждение с по-голяма изчислителна мощност,
- по-надеждно следване и прилагане на насоките за безопасност.
„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес,“ заяви OpenAI в официалната си публикация.