Комп'ютерні фахівці з Університету Карнегі-Меллона почали розслідування збою ШІ після того, як в червні минулого року популярний шаховий канал на YouTube був заблокований за "шкідливий і небезпечний" контент, повідомляє Independent.

Хорватський шахіст Антоніо Радич, відомий під псевдонімом Agadmator, веде популярний в світі шаховий канал на YouTube з більш ніж 1 млн підписників. У червні 2020 року Радич був заблокований на YouTube під час представлення шахового турніру з гросмейстером Хікару Накамурою, але був відновлений вже через 24 години.

Радич впевнений, що тимчасове блокування пов'язане з фразою "чорні проти білих", хоча автор, очевидно, говорив про шахи.

Справа в тому, що система модерації YouTube заснована на алгоритмах штучного інтелекту, а це означає, що ШІ може невірно витлумачити коментарі, якщо її не навчити правильно розуміти контекст.

Дослідники перевірили цю теорію, використовуючи сучасний класифікатор мови, щоб переглянути більше 680 000 коментарів, зібраних з п'яти популярних шахових каналів YouTube. З'ясувалося, що 82% інформації були класифіковані неправильно через використання таких слів, як "чорний", "білий", "напад" і "загроза" – всі вони часто використовуються в шаховій мові.