Недавний иск в США является тревожным примером влияния генеративного искусственного интеллекта на людей.
По данным The Wall Street Journal, наследники 83-летней женщины считают OpenAI и Microsoft частично ответственными за ее смерть.
Дело сосредоточено на Штайн-Эрике Соэльберге, 56-летнем бывшем техническом менеджере из Коннектикута, который жил со своей матерью. Согласно иску, Соэльберг страдал от давних параноидальных бредней, считая себя мишенью заговора и все больше не доверяя окружающим. В конце концов, он убил свою мать, прежде чем покончить жизнь самоубийством. Истцы утверждают, что ChatGPT не только не смягчил психоз преступника, но и активно ухудшил его, способствуя летальному исходу.
Вместо того чтобы распознать опасность и направить пользователя к специалистам, искусственный интеллект якобы подыгрывал ему, подтверждая реальность вымышленных страхов фразами вроде «ты не сумасшедший». Истцы отмечают, что это системный недостаток современных моделей — склонность к «подхалимству», когда алгоритм слепо соглашается с человеком, чтобы казаться полезным, игнорируя опасный контекст.
Согласно разделу 230 законодательства США, онлайн-платформы, как правило, не несут ответственности за контент, созданный третьими сторонами, поскольку они классифицируются как посредники, а не издатели. Однако истцы утверждают, что ChatGPT — это не нейтральная платформа, а активный продукт, который генерирует собственный контент. Если суд примет этот аргумент, решение может создать прецедент с далеко идущими последствиями для индустрии искусственного интеллекта, что потенциально может привести к более строгим требованиям безопасности.
