Соціум

Американські сенатори вважають алгоритми соцмереж аморальними

Американські сенатори намагаються зрозуміти, як великі соціальні компанії, такі як Facebook Inc і Google Alphabet Inc, використовують алгоритми і штучний інтелект для надання нового контенту, щоб залучити користувачів, пише Reuters.

Підкомісія з комерції Сенату, технологій та інновацій заслухала думку дослідників, які розкритикували використання штучного інтелекту для вибору контенту для користувачів. Сенатори кажуть, що більша частина цього контенту-це теорії змови і вводить в оману інформація на YouTube, Facebook і в інших платформах.

Конгрес місяці витратив на обговорення нових заходів захисту конфіденційності для онлайн-користувачів, які можуть обмежити здатність соціальних мереж використовувати особисті дані для вироблення рекомендацій по контенту і ставити під сумнів, чи належним чином соціальні мережі забезпечують захист дітей.

Сенатор Брайан Шатц, провідний демократ в підкомітеті Сенату з комерції, сказав, що соцмережі, використовують алгоритми, які забезпечують нам постійний потік все більш екстремального і подстрекательского контенту», і вони повинні бути більш прозорими і підзвітними за алгоритми. Він сказав, що проблема полягає у відсутності людського фактора.

«Якщо б працівники YouTube, Facebook або Twitter, а не комп’ютери, давали рекомендації хіба вони б рекомендували ці жахливі відео?», — сказав Шатц. «Компанії дозволяють алгоритмам працювати шалено і використовують людей тільки для того, щоб навести порядок … Алгоритми аморальні».

Сенатор Річард Блюменталь погодився з Шатцем в тому, що алгоритми працюють шалено, але додав, що «вони шалено секретні».

Блюменталь і сенатор маршу Блекберн написали генеральному директору YouTube лист, висловивши стурбованість тим, що механізм рекомендацій YouTube продовжує активно і автоматично висувати чутливі відео за участю дітей.

Меггі Стенфілл, директор по роботі з користувачами в user Experience в Google, говорить, що компанія вислухала побоювання сенаторів з приводу своєї системи рекомендацій YouTube.

YouTube скоротив кількість рекомендацій щодо поширення контенту і в результаті «кількість переглядів цього типу контенту за рекомендаціями скоротилася більш ніж на 50% в США».

Сенатор Джон Тьюн, республіканець, який очолює комісію, зазначив, що «потужні механізми, які стоять за цими платформами, покликані розширити взаємодію, також мають можливість — або, принаймні, потенціал — впливати на думки і поведінку буквально мільярдів людей».

Трістан Харріс співзасновник і виконавчий директор Центру гуманних технологій і колишній фахівець з етики дизайну Google, вважає, що соцмережі, мають занадто великою владою і використовують інструменти, схожі на ігрові автомати, щоб залучити людей в процес.