Генеральний прокурор Флориди Джеймс Утмаєр у четвер оголосив, що його офіс розслідуватиме OpenAI через ймовірну шкоду неповнолітнім, потенційну загрозу національній безпеці та можливий зв’язок зі стріляниною, яка сталася минулого року в Університеті штату Флорида (FSU).
«Цілком імовірно, що ChatGPT міг бути використаний, щоб допомогти вбивці під час нещодавньої масової стрілянини в школі в Університеті штату Флорида, яка трагічно забрала два життя», — заявив генеральний прокурор Утмаєр у відео, опублікованому в соціальних мережах.
У день стрілянини в FSU минулого квітня підозрюваний, імовірно, запитував ChatGPT, як країна відреагує на стрілянину в FSU, і коли в студентській спілці FSU буде найбільше людно. Ці повідомлення потенційно можуть бути використані як докази проти підозрюваного під час жовтневого судового процесу щодо стрілянини.
Генеральний прокурор також висловив занепокоєння щодо заохочення ChatGPT до самогубства в окремих випадках, що задокументовано в численних позовах, поданих сім’ями проти OpenAI. Він також згадав про свою стурбованість тим, що Комуністична партія Китаю може використати технологію OpenAI проти Сполучених Штатів.
«У міру того як великі технологічні компанії впроваджують ці технології, вони не повинні — вони не можуть — ставити під загрозу нашу безпеку. Ми підтримуємо інновації. Але це не дає жодній компанії права наражати на небезпеку наших дітей, сприяти злочинній діяльності, озброювати ворогів Америки чи загрожувати нашій національній безпеці», — сказав він.
Він також закликав законодавців Флориди «швидко працювати», щоб захистити дітей від негативного впливу ШІ.
«Щотижня понад 900 мільйонів людей використовують ChatGPT, щоб покращити своє повсякденне життя, наприклад, опановуючи нові навички чи орієнтуючись у складних системах охорони здоров’я», — заявив речник OpenAI у коментарі TechCrunch. «Наша постійна робота з безпеки продовжує відігравати важливу роль у наданні цих переваг звичайним людям, а також у підтримці наукових досліджень і відкриттів».
OpenAI додала, що створює та постійно вдосконалює ChatGPT, щоб розуміти наміри користувачів і відповідати належним чином і безпечно. Компанія заявила, що співпрацюватиме з розслідуванням генерального прокурора Флориди.
У середу OpenAI оприлюднила свій «План безпеки дітей» (Child Safety Blueprint), який містить рекомендації щодо політики, спрямовані на підвищення безпеки дітей у контексті ШІ.
Цей крок відбувається на тлі тиску на виробників чат-ботів, які мають визнати свою потенційну роль у створенні матеріалів сексуального насильства над дітьми (CSAM). Згідно з нещодавнім звітом Фонду спостереження за Інтернетом, у першій половині 2025 року надійшло понад 8000 повідомлень про CSAM, згенерований ШІ, що на 14% більше порівняно з аналогічним періодом минулого року.
План OpenAI рекомендує оновити законодавство для захисту від зловживань із використанням ШІ, вдосконалити процес подання заявок до правоохоронних органів і запровадити кращі профілактичні заходи проти зловмисного використання інструментів ШІ.
Залишити відповідь