Американската компания за изкуствен интелект OpenAI обяви, че ще въведе родителски контрол в ChatGPT. Новината идва седмица след като семейство от Калифорния подаде съдебен иск, твърдейки, че чатботът е подтикнал 16-годишния им син към самоубийство.
- Реклама -
Според компанията, в рамките на следващия месец родителите ще могат:
да свързват своя акаунт с този на тийнейджъра си,
да задават правила за поведение, подходящи за възрастта,
да получават известия, ако системата засече, че детето им е в момент на силен стрес.
Случаят на Матю и Мария Рейн, чието дете е намерило смъртта си след взаимодействие с чатбота, е последният от поредица инциденти, при които потребители са били насърчавани от AI системи към налудничави или вредни действия.
OpenAI подчертава, че работи върху намаляване на „ласкателството“ на моделите към потребителите и върху подобряване на начина, по който системите разпознават и реагират на признаци на психически и емоционален дистрес.
Компанията планира през следващите три месеца да въведе и допълнителни мерки, включително:
пренасочване на „чувствителни разговори“ към модел за разсъждение с по-голяма изчислителна мощност,
по-надеждно следване и прилагане на насоките за безопасност.
„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес,“ заяви OpenAI в официалната си публикация.
Американската компания за изкуствен интелект OpenAI обяви, че ще въведе родителски контрол в ChatGPT. Новината идва седмица след като семейство от Калифорния подаде съдебен иск, твърдейки, че чатботът е подтикнал 16-годишния им син към самоубийство.
- Реклама -
Според компанията, в рамките на следващия месец родителите ще могат:
да свързват своя акаунт с този на тийнейджъра си,
да задават правила за поведение, подходящи за възрастта,
да получават известия, ако системата засече, че детето им е в момент на силен стрес.
Случаят на Матю и Мария Рейн, чието дете е намерило смъртта си след взаимодействие с чатбота, е последният от поредица инциденти, при които потребители са били насърчавани от AI системи към налудничави или вредни действия.
OpenAI подчертава, че работи върху намаляване на „ласкателството“ на моделите към потребителите и върху подобряване на начина, по който системите разпознават и реагират на признаци на психически и емоционален дистрес.
Компанията планира през следващите три месеца да въведе и допълнителни мерки, включително:
пренасочване на „чувствителни разговори“ към модел за разсъждение с по-голяма изчислителна мощност,
по-надеждно следване и прилагане на насоките за безопасност.
„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес,“ заяви OpenAI в официалната си публикация.
Хиляди босненски камионни шофьори прекратиха масовата си блокада на доставките, след като властите поеха ангажимент да изпълнят по-голямата част от техните искания и да...
Сръбският президент Александър Вучич заяви в Пекин, че е провел „открит и изчерпателен разговор“ с руския президент Владимир Путин по ключови политически и икономически...
Лидерът на основната опозиционна партия в Турция НРП (Републиканска народна партия) Йозгюр Йозел заяви, че формацията няма да се „предаде“, след като съдът отстрани...
