Американската компания за изкуствен интелект OpenAI обяви, че ще въведе родителски контрол в ChatGPT. Новината идва седмица след като семейство от Калифорния подаде съдебен иск, твърдейки, че чатботът е подтикнал 16-годишния им син към самоубийство.
- Реклама -
Според компанията, в рамките на следващия месец родителите ще могат:
да свързват своя акаунт с този на тийнейджъра си,
да задават правила за поведение, подходящи за възрастта,
да получават известия, ако системата засече, че детето им е в момент на силен стрес.
Случаят на Матю и Мария Рейн, чието дете е намерило смъртта си след взаимодействие с чатбота, е последният от поредица инциденти, при които потребители са били насърчавани от AI системи към налудничави или вредни действия.
OpenAI подчертава, че работи върху намаляване на „ласкателството“ на моделите към потребителите и върху подобряване на начина, по който системите разпознават и реагират на признаци на психически и емоционален дистрес.
Компанията планира през следващите три месеца да въведе и допълнителни мерки, включително:
пренасочване на „чувствителни разговори“ към модел за разсъждение с по-голяма изчислителна мощност,
по-надеждно следване и прилагане на насоките за безопасност.
„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес,“ заяви OpenAI в официалната си публикация.
Американската компания за изкуствен интелект OpenAI обяви, че ще въведе родителски контрол в ChatGPT. Новината идва седмица след като семейство от Калифорния подаде съдебен иск, твърдейки, че чатботът е подтикнал 16-годишния им син към самоубийство.
- Реклама -
Според компанията, в рамките на следващия месец родителите ще могат:
да свързват своя акаунт с този на тийнейджъра си,
да задават правила за поведение, подходящи за възрастта,
да получават известия, ако системата засече, че детето им е в момент на силен стрес.
Случаят на Матю и Мария Рейн, чието дете е намерило смъртта си след взаимодействие с чатбота, е последният от поредица инциденти, при които потребители са били насърчавани от AI системи към налудничави или вредни действия.
OpenAI подчертава, че работи върху намаляване на „ласкателството“ на моделите към потребителите и върху подобряване на начина, по който системите разпознават и реагират на признаци на психически и емоционален дистрес.
Компанията планира през следващите три месеца да въведе и допълнителни мерки, включително:
пренасочване на „чувствителни разговори“ към модел за разсъждение с по-голяма изчислителна мощност,
по-надеждно следване и прилагане на насоките за безопасност.
„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес,“ заяви OpenAI в официалната си публикация.
Британският премиер Киър Стармър беше подложен на силен политически натиск в неделя, след като излязоха наяве стари публикации в социалните мрежи, определени като "отвратителни",...
Гласуването на парламентарните избори в Косово приключи в неделя, като екзитполовете показват преднина за партията „Ветевендосе“ (VV) на служебния премиер Албин Курти, но без...
Основното искане на протестиращите е прието – догодина в Сърбия ще се проведат предсрочни парламентарни избори.Това заяви тази вечер сръбският президент Александър Вучич пред...
