У четвер компанія Meta оголосила про початок впровадження більш досконалих систем штучного інтелекту для модерації контенту, оскільки планує скоротити використання сторонніх постачальників. Завдання, пов’язані з модерацією контенту, включають виявлення та видалення матеріалів про тероризм, експлуатацію дітей, наркотики, шахрайство та скам.
Компанія заявляє, що розгорне ці більш досконалі системи ШІ у своїх додатках, як тільки вони стабільно перевершуватимуть поточні методи модерації. Водночас вона зменшить свою залежність від сторонніх постачальників для модерації контенту.
«Хоча у нас все ще будуть люди, які перевіряють контент, ці системи зможуть виконувати роботу, яка краще підходить для технологій, наприклад, повторювані перевірки графічного вмісту або сфери, де зловмисники постійно змінюють свою тактику, як-от незаконний продаж наркотиків чи шахрайство», — пояснила Meta у блозі.
Meta вважає, що ці системи ШІ можуть виявляти більше порушень з вищою точністю, краще запобігати шахрайству, швидше реагувати на події в реальному світі та зменшувати надмірне блокування.
Компанія повідомляє, що ранні випробування систем ШІ були перспективними: вони можуть виявляти вдвічі більше контенту, пов’язаного з сексуальними домаганнями до дорослих, ніж її команди перевірки, одночасно зменшуючи кількість помилок більш ніж на 60%. Вона також стверджує, що системи можуть ідентифікувати та запобігати більшій кількості випадків імітації акаунтів за участю знаменитостей та інших відомих осіб, а також допомагати зупиняти захоплення облікових записів, виявляючи такі сигнали, як входи з нових місць, зміни пароля чи редагування профілю.
Крім того, Meta заявляє, що системи можуть ідентифікувати та блокувати близько 5000 спроб шахрайства на день, коли зловмисники намагаються обманом змусити людей розкрити свої дані для входу.
«Експерти будуть розробляти, навчати, контролювати та оцінювати наші системи ШІ, вимірюючи продуктивність і приймаючи найскладніші рішення з найвищим впливом», — написала Meta у блозі. «Наприклад, люди продовжуватимуть відігравати ключову роль у тому, як ми приймаємо рішення з найвищим ризиком та найбільш критичні рішення, такі як апеляції щодо блокування облікових записів або повідомлення правоохоронним органам».
Цей крок відбувається на тлі того, що Meta протягом останнього року чи близько того пом’якшувала свої правила модерації контенту, коли президент Дональд Трамп вступив на посаду вдруге. Минулого року компанія припинила свою програму фактчекінгу сторонніми організаціями на користь моделі Community Notes, подібної до X. Вона також зняла обмеження щодо «тем, які є частиною основного дискурсу» та заявила, що користувачі будуть заохочуватися до «персоналізованого» підходу до політичного контенту.
Це також відбувається на тлі того, що Meta та інші великі технологічні компанії зараз стикаються з кількома судовими позовами, спрямованими на притягнення соціальних мереж до відповідальності за шкоду, заподіяну дітям та молодим користувачам.
У четвер Meta також оголосила про запуск допоміжного асистента Meta AI, який надасть користувачам цілодобову підтримку. Асистент поступово стає доступним у додатках Facebook та Instagram для iOS і Android, а також у Центрі допомоги на Facebook та Instagram у десктопній версії.
Залишити відповідь