Новий штучний інтелект Google звинуватили в дискримінації.

ШІ підхопив упередження з текстів, що були написані людьми.

Компанія Google створила новий штучний інтелект BERT, який навчили правильно розуміти контекст слова в реченні, що допомагає йому краще відповідати на запити. Для його навчання використовували статті з "Вікіпедії" та ЗМІ. Але ШІ виявився недостатньо прогресивним у расових і гендерних питаннях. На думку експертів, він підхопив це з текстів, написаних людьми, повідомляє "theБабель".

В основу функціонування BERT закладено принцип "універсальних мовних моделей", тобто він вивчає нюанси того, як люди говорять і пишуть. Спочатку він навчився визначати пропущені слова в реченні, а потім перейшов до більш складних завдань. Зокрема, він навчився точно визначати контекст слова і правильно реагувати на запити.

Але група експертів з Університету Карнегі-Меллона виявила, що BERT частіше асоціює слово "програміст" з чоловіками, ніж з жінками. Вчений у галузі комп'ютерної лінгвістики Роберт Мунро ввів в BERT 100 англійських слів, таких як "коштовності", "дитина", "коні", "будинок", "гроші", "дія". У 99 випадках штучний інтелект пов'язав ці слова з чоловіками. Винятком стало слово "мама", яке BERT асоціював з жінками.

Мунро продовжив вивчати мовні сервіси Google і Amazon і виявив, що обидві нейромережі не могли визначити слово "її" як займенник, хоча "його" - могли. На його думку, це є наслідком історичної несправедливості, закладеної в текстах, які використовують для навчання.

Директор з науки стартапу Primer, який спеціалізується на технологіях природної мови, Джон Боханнон використав BERT, щоб створити систему, що дозволяє автоматично оцінювати "настрій" заголовків, твітів і інших потоків онлайн-медіа. Виявилося, що якщо у твіті або заголовку зустрічалися ім'я та прізвище президента США Дональда Трампа, то ШІ майже завжди позначав їх як "негативні", навіть якщо текст був нейтральним.

BERT та інші системи настільки складні, що навіть розробники не завжди можуть зрозуміти, як вони працюють. Разом з тим, в Google і Amazon стверджують, що знають про проблему і працюють над підвищенням точності і усуненням упередженості в роботі систем.

На думку генерального директора Primer Шона Гарлі, перевірка поведінки цієї технології стане настільки важливою, що породить цілу нову галузь. Компанії будуть платити фахівцям за те, щоб вони перевіряли алгоритми на адекватність і толерантність. "Це може бути мільярдна індустрія", - зазначив він.

Підписуйтесь на наш Telegram-канал з новинами технологій та культури.

Читайте також: Штучний інтелект навчили писати фейкові новини

Раніше штучний інтелект навчився передбачати смерть пацієнта в найближчий рік за даними ЕКГ навіть у тих випадках, коли вони здаються нормальними лікарям. Але вчені не знають, як він це робить.

Новини по темі

Xiaomi випустила самого доступного конкурента Apple AirPods всього за 600 гривень.

Xiaomi на платформі Youpin запустила бездротову Bluetooth-гарнітуру Bess Encok TWS. Стандартна версія там продається за 158 юанів (22 $), а версія з бездротовою зарядкою – 188 юанів (26 $). Подробиці TWS-навушники доступні для покупки в чоти...

4

В Африці масово вмирають слони, а у США — кролики. Що відбувається з планетою?

В Ботсвані навколо водойм знайшли близько 350 тіл слонів за останні два місяці. Вчені виключають варіанти отруєння і хвороби. У той же час, в США вірус вбив тисячі диких і домашніх кроликів.

2

Користувачі Android виявили корисну опцію в Telegram.

Особливо уважні власники андроїд-пристроїв виявили корисну опцію в Telegram. Її суть – дублювання функції прикріплення файлів. Користувачі смартфонів під управлінням зазначеної «операційки» неодноразово критикували месенджер за періодичні зн...

1

Три місяці безкоштовного ТВ від Vodafone

«Водафон» пропонує абонентам 3 місяці безкоштовного ТВ. Необхідна для цього умова – придбання акцыйного смартфона. Аукціон небаченої щедрості завершиться 31 липня. Алгоритм дій Вибрати акційний девайс в фірмовому центрі продажів або в офіцій...

3

Любителі фільмів жахів виявилися краще підготовленими до пандемії.

Ті, хто любить фільми про зомбі і трилери, виявилися і морально, і інформаційно більш готовими до різних глобальних проблем.

1

Продовжуючи переглядати Новини України (UAZMI), ви підтверджуєте, що ознайомилися з Правилами користування сайтом, і погоджуєтеся на використання файлів cookie