Новий штучний інтелект Google звинуватили в дискримінації.

ШІ підхопив упередження з текстів, що були написані людьми.

Компанія Google створила новий штучний інтелект BERT, який навчили правильно розуміти контекст слова в реченні, що допомагає йому краще відповідати на запити. Для його навчання використовували статті з "Вікіпедії" та ЗМІ. Але ШІ виявився недостатньо прогресивним у расових і гендерних питаннях. На думку експертів, він підхопив це з текстів, написаних людьми, повідомляє "theБабель".

В основу функціонування BERT закладено принцип "універсальних мовних моделей", тобто він вивчає нюанси того, як люди говорять і пишуть. Спочатку він навчився визначати пропущені слова в реченні, а потім перейшов до більш складних завдань. Зокрема, він навчився точно визначати контекст слова і правильно реагувати на запити.

Але група експертів з Університету Карнегі-Меллона виявила, що BERT частіше асоціює слово "програміст" з чоловіками, ніж з жінками. Вчений у галузі комп'ютерної лінгвістики Роберт Мунро ввів в BERT 100 англійських слів, таких як "коштовності", "дитина", "коні", "будинок", "гроші", "дія". У 99 випадках штучний інтелект пов'язав ці слова з чоловіками. Винятком стало слово "мама", яке BERT асоціював з жінками.

Мунро продовжив вивчати мовні сервіси Google і Amazon і виявив, що обидві нейромережі не могли визначити слово "її" як займенник, хоча "його" - могли. На його думку, це є наслідком історичної несправедливості, закладеної в текстах, які використовують для навчання.

Директор з науки стартапу Primer, який спеціалізується на технологіях природної мови, Джон Боханнон використав BERT, щоб створити систему, що дозволяє автоматично оцінювати "настрій" заголовків, твітів і інших потоків онлайн-медіа. Виявилося, що якщо у твіті або заголовку зустрічалися ім'я та прізвище президента США Дональда Трампа, то ШІ майже завжди позначав їх як "негативні", навіть якщо текст був нейтральним.

BERT та інші системи настільки складні, що навіть розробники не завжди можуть зрозуміти, як вони працюють. Разом з тим, в Google і Amazon стверджують, що знають про проблему і працюють над підвищенням точності і усуненням упередженості в роботі систем.

На думку генерального директора Primer Шона Гарлі, перевірка поведінки цієї технології стане настільки важливою, що породить цілу нову галузь. Компанії будуть платити фахівцям за те, щоб вони перевіряли алгоритми на адекватність і толерантність. "Це може бути мільярдна індустрія", - зазначив він.

Підписуйтесь на наш Telegram-канал з новинами технологій та культури.

Читайте також: Штучний інтелект навчили писати фейкові новини

Раніше штучний інтелект навчився передбачати смерть пацієнта в найближчий рік за даними ЕКГ навіть у тих випадках, коли вони здаються нормальними лікарям. Але вчені не знають, як він це робить.

Новини по темі

Ferrari не випустить власний електромобіль раніше за 2025 рік.

Автовиробник Ferrari не випустить власний електрокар раніше 2025 року. Причина такої затримки полягає в тому, що технологія батарей вимагає подальшого розвитку, повідомив виконавчий директор компанії Луї Камільєрі.

1

Американська компанія запустила 5G у 10 містах США

Американський транснаціональний телекомунікаційний конгломерат AT&T запустила 5G для усіх користувачів в 10 містах США.

Porsche інвестує у розробку сенсорів для безпілотників.

Porsche, який належить Volkswagen Group, придбав міноритарну частку в американському стартапі Aeva Inc., що спеціалізується на розробленні сенсорів для безпілотних автомобілів.

2

ЄС ще більше посилить вимоги до викидів автомобілями СО2.

Голова Єврокомісії Урсула фон дер Ляйен представила так звану «Зелену угоду» - план ЄС щодо захисту навколишнього середовища. У ньому передбачається, в тому числі, введення більш строгих вимог до рівня викидів автомобілями шкідливих речовин.

2

Вчені знайшли найглибшу западину на планеті

Вчені виявили найглибшу западину на земній кулі із тих, що знаходяться на суші. Її приховує льодовик в Антарктиді. Як повідомляє BBC, западину знайшли американські вчені у Східній Антарктиді, під льодовиком Денмані, її глибина – 3,5 кілометр...

2 5

Продовжуючи переглядати Новини України (UAZMI), ви підтверджуєте, що ознайомилися з Правилами користування сайтом, і погоджуєтеся на використання файлів cookie