У новому вірусному відео сенатор Берні Сандерс спробував викрити, як індустрія штучного інтелекту загрожує конфіденційності американців, але натомість продемонстрував, як схильність чат-ботів зі ШІ погоджуватися з користувачами та догоджати їм може призвести до того, що самі чат-боти стануть дзеркалом власних переконань користувача, а не інструментом для пізнання.
Ми вже бачили цю проблему раніше через зростаючу кількість людей, уражених «AI психозом», коли чат-бот зі ШІ підкріплює ірраціональні думки та переконання психічно нестабільної людини. У деяких випадках, згідно з кількома судовими позовами, ця темна закономірність навіть призводила до того, що користувачі забирали своє життя.
У випадку Сандерса, догідливість ШІ проявилася в тому, що чат-бот формував свої відповіді, щоб відповідати політику.
Варто зазначити, що інтерв’ю починається з того, що Сандерс представляється Claude (якого він помилково називає AI «агентом») — крок, який може вплинути на відповіді чат-бота.
Потім, коли Сандерс ставить запитання про практики збору даних компаніями ШІ та інші проблеми конфіденційності, Claude слухняно відповідає тим, що політик хоче почути. Частково це пов’язано з тим, як Сандерс формулює свої запитання, запитуючи таке: «Що здивувало б американський народ, якби вони знали, як збирається ця інформація?» або «Як ми можемо довіряти компаніям ШІ, що вони захистять нашу конфіденційність, коли вони використовують особисту інформацію людей, щоб заробляти гроші?» Ці навідні запитання змушують чат-бота прийняти передумову запитання і запропонувати відповідну відповідь. Так просто ці речі працюють.
І коли відповідь Claude вказувала на те, що тема є більш складною або нюансною, ніж її сформулював Сандерс, Сандерс не погоджувався, змушуючи чат-бота поступитися з ноткою самоіронії, що сенатор був «абсолютно правий».
Догідлива природа ШІ — це те, що може привести людей на небезпечні шляхи, коли вони припускають, що чат-бот є джерелом універсальної істини, а не інструментом, на який може впливати його користувач.
Незрозуміло, чи знає Сандерс про це і просто не зважає (адже це, зрештою, просто реклама!), чи він справді вважає, що йому вдалося обдурити Claude і зробити його інформатором для індустрії ШІ.
І, звичайно, є також питання, чи готувала команда Сандерса чат-бота певним чином, враховуючи, що це було постановочне «інтерв’ю».
Хоча існують реальні проблеми щодо збору даних і конфіденційності, все не так чорно-біло, як свідчать відповіді ШІ в цьому відео.
Ми вже живемо у світі, де компанії збирають і продають дані онлайн-користувачів у великих масштабах — і роблять це роками. Ми знаємо, що такі гіганти соціальних мереж, як Meta, перетворили персоналізовану рекламу на багатомільярдний грошовий верстат. І завдяки регулярним звітам про прозорість технологічних гігантів ми знаємо, що уряди по всьому світу регулярно запитують доступ до даних користувачів для своїх цілей.
ШІ може бути новим середовищем для потенційного регулювання з боку законодавців, але особисті дані вже давно живлять цифрову економіку. (Іронічно, що Anthropic — це компанія ШІ, яка пообіцяла не використовувати персоналізовану рекламу для заробітку, незважаючи на те, що могли припустити її відповіді Сандерсу).
Хоча загальна розмова між Сандерсом і Claude не відповідає дійсності для тих, хто розуміє, як працюють чат-боти зі ШІ, ми можемо принаймні віддати їй належне за те, що вона подарувала нам чудові нові меми.
pic.twitter.com/RWw3mjXSLn
literally pic.twitter.com/NsfpIcX0J0
i am once again asking you to stop the experiments. pic.twitter.com/EqaYI5krIy
pic.twitter.com/ZOYXZDnK9O
At least use Opus, senator pic.twitter.com/GbMLdKH6M2
pic.twitter.com/i7iO0RppcX
Me when I finish work pic.twitter.com/Mu8TWbu8gc
Залишити відповідь