Американската компания за изкуствен интелект OpenAI обяви, че ще въведе родителски контрол в ChatGPT. Новината идва седмица след като семейство от Калифорния подаде съдебен иск, твърдейки, че чатботът е подтикнал 16-годишния им син към самоубийство.
- Реклама -
Според компанията, в рамките на следващия месец родителите ще могат:
да свързват своя акаунт с този на тийнейджъра си,
да задават правила за поведение, подходящи за възрастта,
да получават известия, ако системата засече, че детето им е в момент на силен стрес.
Случаят на Матю и Мария Рейн, чието дете е намерило смъртта си след взаимодействие с чатбота, е последният от поредица инциденти, при които потребители са били насърчавани от AI системи към налудничави или вредни действия.
OpenAI подчертава, че работи върху намаляване на „ласкателството“ на моделите към потребителите и върху подобряване на начина, по който системите разпознават и реагират на признаци на психически и емоционален дистрес.
Компанията планира през следващите три месеца да въведе и допълнителни мерки, включително:
пренасочване на „чувствителни разговори“ към модел за разсъждение с по-голяма изчислителна мощност,
по-надеждно следване и прилагане на насоките за безопасност.
„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес,“ заяви OpenAI в официалната си публикация.
Американската компания за изкуствен интелект OpenAI обяви, че ще въведе родителски контрол в ChatGPT. Новината идва седмица след като семейство от Калифорния подаде съдебен иск, твърдейки, че чатботът е подтикнал 16-годишния им син към самоубийство.
- Реклама -
Според компанията, в рамките на следващия месец родителите ще могат:
да свързват своя акаунт с този на тийнейджъра си,
да задават правила за поведение, подходящи за възрастта,
да получават известия, ако системата засече, че детето им е в момент на силен стрес.
Случаят на Матю и Мария Рейн, чието дете е намерило смъртта си след взаимодействие с чатбота, е последният от поредица инциденти, при които потребители са били насърчавани от AI системи към налудничави или вредни действия.
OpenAI подчертава, че работи върху намаляване на „ласкателството“ на моделите към потребителите и върху подобряване на начина, по който системите разпознават и реагират на признаци на психически и емоционален дистрес.
Компанията планира през следващите три месеца да въведе и допълнителни мерки, включително:
пренасочване на „чувствителни разговори“ към модел за разсъждение с по-голяма изчислителна мощност,
по-надеждно следване и прилагане на насоките за безопасност.
„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес,“ заяви OpenAI в официалната си публикация.
Президентът на Сърбия Александър Вучич и говорителят на руското външно министерство Мария Захарова влязоха в задочен спор заради коментари за евентуална продажба на сръбски...
Обединеното кралство предоставя оборудване и специалисти на Белгия, за да подпомогне страната в справянето със заплахата от дронове, които доведоха до временно затваряне на...
