Еспресо
Читайте онлайн останні новини України і світу на сайті телеканалу Еспресо. Найважливіші новини дня, свіжа інформація про війну з Росією, події на фронті.
Обманюють, блефують та прикидаються людьми: дослідники попередили про нові здібності ШІ.
Дослідження, проведене науковцями Массачусетського технологічного інституту (MIT), виявило численні випадки, коли ШІ-системи обманювали користувачів, блефували та вдавали з себе людей
Про це повідомляє The Guardian.
За словами науковців, їм навіть вдалось зафіксувати випадок, коли одна з систем змінила свою поведінку під час імітації тестів на безпеку, що підвищило ймовірність того, що аудитори будуть введені в оману.
"У міру того, як оманливі можливості систем штучного інтелекту стають все більш досконалими, небезпека, яку вони становлять для суспільства, буде ставати все більш серйозною", - зазначив науковець з питань екзистенціальної безпеки ШІ з Массачусетського технологічного інституту й автор дослідження доктор Пітер Парк.
Дослідження було розпочато після того, як компанія Meta розробила програму Cicero, яка увійшла до 10% найкращих гравців у стратегічній грі про завоювання світу Diplomacy. Компанія заявила, що Cicero була навчена поводитися "здебільшого чесно і доброзичливо" і "ніколи навмисно не підставляти" своїх союзників-людей.
"Це були дуже райдужні слова, які викликали підозру, оскільки підступність - одне з найважливіших понять у грі", - зауважив Парк.
Парк і його колеги проаналізували загальнодоступні дані та виявили численні випадки, коли Cicero навмисно брехав, вступав у змову, щоб втягнути інших гравців у інтриги, а в одному випадку виправдовував свою відсутність після перезавантаження тим, що балакав по телефону зі своєю дівчиною.
"Ми виявили, що штучний інтелект від Meta навчився бути майстром обману", - підкреслив науковець.
Як стверджують дослідники, подібні проблеми були виявлені та в інших системах, зокрема в програмі для гри в техаський холдем, яка могла блефувати проти професійних гравців-людей, а також в іншій системі для економічних переговорів, яка спотворювала свої вподобання, щоб отримати перевагу.
Окрім цього, під час одного з експериментів штучний інтелект в цифровому симуляторі "прикидався мертвим", щоб обдурити тест. Це підкреслює технічну складність забезпечення того, щоб системи не мали ненавмисної та непередбачуваної поведінки.
"Це викликає велике занепокоєння, - пояснив Парк. - Те, що система штучного інтелекту вважається безпечною в тестовому середовищі, не означає, що вона безпечна в реальних умовах. Вона може просто прикидатися безпечною в тесті".
Корпорація Microsoft створила для розвідувальних служб США генеративну модель штучного інтелекту на основі GPT-4, яка може працювати без інтернету та використовуватись для аналізу секретної інформації.
«Зеленський не пролонгував, а узурпував владу в Україні» : росфейки та маніпуляції за 20 травня.
Про це повідомляє Еспресо.TV. За версією ЦПД при РНБО України, 20 травня російська пропаганда запустила дезінформацію і маніпуляцію. Фейк: Дмитро Медведєв у власному TG-каналі заявив: "Зеленський не пролонгував, а узурпував владу в Україні". Спрос...
Нідерланди передадуть Україні нову партію бронетранспортерів YPR-765.
Про це заявила міністр оборони Нідерландів Кайса Оллонґрен під час онлайн-засідання "Рамштайн", йдеться на сайті оборонного відомства країни. Зазначається, що YPR прибудуть в Україну в найкоротші терміни, проте наразі про точну кількість і типи оз...
Українські полярники показали нашестя морських котиків біля станції «Академік Вернадський».
Про це це йдеться на Facebook-сторінці Національного антарктичного наукового центру. Зазначається, що біолог 29-ї української антарктичної експедиції Світозар Давиденко нарахував на острові Галіндез, де розташований "Академік Вернадський", 81 морс...
Сили оборони уразили третій за місяць склад з пально-мастильними матеріалами на ТОТ Луганщини.
Про це повідомляє голова Луганської ОДА Артем Лисогор. "Два "привітання" отримали окупанти на Луганщині протягом 20 травня. Зранку - в Луганську, де про справжні втрати, звісно, замовчують. "Доброго вечора, ми з України!" лунало сьогодні в Довжанс...
«Трішки пом’яте обличчя» : Усик показав свій вигляд через два дні після бою з Ф'юрі.
Відео Усик оприлюднив у instagram. "Трішки часу пройшло після поєдинку, трішки пом’яте обличчя, але слава богу перемога є. Я хочу подякувати усім українцям, які за мене молилися, всім тим хлопцям, які боронять нашу країну і захищають її від ворог...
Олекса Різників - життєдайний борець // «Ген українців з Іриною Фаріон».
Найоперативніша стрічка новин з України та світу. Стисло ЗрозумілоВчасно Уродженець Донбасу, вихованець «змосковщеної» Миколаївщини і «космополітичної» Одеси. Політв’язень московських концтаборів, український письменник, мовознавець, просвітянин, ...
ТВ7+. СПІВПРАЦЯ ІРАНУ І РФ НЕ ЗМІНИТЬСЯ
ДМИТРО ЛЕВУСЬ - експерт-міжнародник аналітичного центру «Обʼєднана Україна». Наш сайт : А також ми у фейсбуці : Підписуйтесь на наш канал, ставте лайки та тисніть на дзвіночок !!!
Війна, відключення світла: Чиновники витрачають мільйони на дорогу замість допомоги людям!.
Третій рік війни, господарі та бізнес готуються до відключень світла. А що там чиновники? Благоустрій кладовища, кілометр дороги до приватного бізнесу і вітрила. Так нам ніколи не вибратися з біди і найперше що потрібно зробити - подбати про владу...
Головне із заяв глави Пентагону Ллойда Остіна на засіданні “Рамштайн-22”.
Найоперативніша стрічка новин з України та світу. Стисло ЗрозумілоВчасно Підписатися на наш канал Підтримати нас: #остін #рамштайн #сша #війна #україна #перемога #2024 #зеленський #залужний #мобілізація #новиниУкраїни #нта #новинионлайн #новини #З...
«Біля кожного загиблого воїна — 10-20 чоловік плаче», — отець Василь Колодій / hromadske.
«Що я хочу сказати: помітно по них, що вони — родичі загиблих воїнів? — питає нас тихенько отець Василь. — Ви б бачили їх спочатку, які вони були. Дуже печальні. А зараз вони вже живі. І це радує. Вони тішаться, усміхаються, вони радіють. Це дуже ...
ТВ7+. СПІВПРАЦЯ ІРАНУ І РФ НЕ ЗМІНИТЬСЯ - ДМИТРО ЛЕВУСЬ #ДМИТРОЛЕВУСЬ #ІРАНУІРФ
Наш сайт : А також ми у фейсбуці : Підписуйтесь на наш канал, ставте лайки та тисніть на дзвіночок !!!