Знайдено спосіб запобігти кінець світу через роботів

Вчені Університету Массачусетсу в Амхерсті розробили платформу для створення алгоритмів, які повинні запобігти небезпечну поведінку машин з штучним інтелектом (ШІ) і не допустити заподіяння шкоди людині. Про це повідомляє видання Science Alert.

Дослідники назвали алгоритми селдоновскими — на честь персонажа серії науково-фантастичних романів «Підстава» Айзека Азімова. Хоча вони не дають ІІ розуміння морально-етичних норм або того, що є благом для людини, вони дозволяють визначити, яка поведінка є небажаним і не допустити його.

Як приклад вчені наводять використання селдоновских алгоритмів для лікування діабету, коли автоматична система контролює інсулінову помпу. У цьому випадку небажаною поведінкою є те, що сприяє критично низького рівня інсуліну в крові або гіпоглікемії. Дослідники розробили алгоритм для системи прогнозування середнього балу атестата у студентів, щоб уникнути гендерних забобонів, які виявлялися у деяких інших алгоритмів.

У жовтні колишній розробник Google Лара Нолан заявила, що зброю з штучним інтелектом, здатний приймати рішення без людини, зможе знищити міста світу за лічені секунди. Якщо в одному районі буде перебувати багато подібних систем, то існує ймовірність раптової війни», так як вони зреагують один на одного майже моментально.Що відбувається в Росії і в світі? Пояснюємо на нашому YouTube-каналі. Підпишись!

Категория: Наука