International scientific e-journal

ΛΌГOΣ. ONLINE

5 (January, 2020)

e-ISSN: 2663-4139
КВ №20521-13361Р

ENGINEERING AND IT

UDC 004.8

EOI 10.11232/2663-4139.05.02

ЧИ МОЖЕ ШТУЧНИЙ ІНТЕЛЕКТ НАЗДОГНАТИ БІОЛОГІЧНИЙ ТА ЧИ ВАРТО ЙОГО БОЯТИСЬ

КОЧІНА Катерина Романівна

здобувач вищої освіти факультету комп’ютерних наук

Харківський національний університет радіоелектроніки

 

НАУКОВИЙ КЕРІВНИК:

 

МАТВЄЄВ Дмитро Ігорович

асистент кафедри програмної інженерії

Харківський національний університет радіоелектроніки

 

УКРАЇНА


Анотація. Ця робота висвітлює питання: чи може штучний інтелект в даний момент або в найближчій перспективі настільки наблизитися до людського, що стане джерелом загрози для людини

Ключові слова: штучний інтелект, розвиток штучного інтелекту, загроза штучного інтелекту, нейромережа.

В останні роки розвиток штучного інтелекту набув значних темпів розвитку. Про значні його досягнення чутно майже щодня. Він вже зараз вміє робити різноманітну роботу замість людини та краще за людину. У зв’язку з цим, постає важливе питання: чи може штучний інтелект вбивати спеціально і чи становить він загрозу для людства.

В процесі написання даної статті були опрацьовані наукові онлайн-журнали, а також вся інформація проілюстрована прикладами з сучасної історії.

19 березня 2018 року на смерть збило 49 річну жінку безпілотний автомобіль. Вона переходила в недозволеному місці і при малій видимості вночі. Стосовно цієї ситуації досі ведеться розслідування і до сих пір немає винних.

Безпілотний автомобіль не відволікається, не засинає і намагається всіма силами уникнути аварії. Але, якщо уникнути аварії неможливо, він намагатиметься мінімізувати збиток. В основі цього лежить система штрафів. Наприклад, збити собаку – 5 балів, літню людину – 50, вагітну жінку – 100 тощо. Завдання: набрати найменше число балів.

Вчені вирішили провести дослідження і дізнатися, що думають з цього приводу люди і як би вони вчинили на місці автомобіля. На сайті Moral Machine (http://moralmachine.mit.edu/) можна самому зайти і зробити цей вибір.

Саме в проблемі вибору полягає складність. Перед тим як наказати машині, що правильно, а що ні, нам потрібно самим розібратися зі ставленням до себе.

Повернемося до машин. Вони оздоблені великою кількістю камер, сенсорами, радарами. Комп’ютерний зір малює картину навколишнього світу, виділяє смуги руху і визначає положення автомобіля, світлофори, знаки, людей, навіть бордюри. Завдання машини – намагатися уникати зіткнень.

Ми, люди, прописуємо правила, як діяти в певній ситуації. Машині не доведеться вибирати, кого врятувати. Вибирати доведеться людині, яка прописує їй правила. Таким чином, щоб пояснити штучному інтелекту правила вибору, доведеться зрозуміти, як працює інтелект та яких етичних та моральних норм дотримується людина.

Нижче приведена формула (1), що лежить в основі теорії ймовірності, вона була виведена в 1763 році Томасом Байісом. Ця формула є основною у логіці нейромереж.

 

(1)

 

Перший нейрокомп’ютер з’явився в 1958 році. Це комп’ютер Марк 1. Працює на алгоритмі перцептрон. Його мозок складається з шару рецепторів, нейронів і класифікаторів.

• Рецептори приймають сигнал, як, наприклад, сітківка ока, і передають далі – нейронам;

• Нейрони підсумовують всі отримані сигнали, і передають результат до класифікатора;

•  Класифікатори розпізнають зображення.

Зв’язки між нейронами неоднакові: деякі сильніші, інші – слабші. Сила цих зв’язків змінюється в процесі навчання. Зв’язки, які призводять до правильних результатів, посилюються, а зв’язки, які призводять до неправильних – слабшають.

Зараз завдання з розпізнавання цифр, букв, геометричних фігур не є складним, тому що з’явилися досить потужні відеокарти, які дозволяють нейромережам вирішувати завдання великої математичної складності.

Сучасні нейромережі складаються з безлічі шарів:

• перший – бачить тільки світло і колір;

• другий – розрізняє елементи і текстури;

• третій – механізми, частини тіла людей і тварин;

• четвертий – класифікує об’єкти і розуміє, що йому показують.

Головна відмінність нейромережі від звичайної програми полягає в тому, що вона вчиться вирішувати задачу сама. У разі правильних рішень люди заохочують програму, в разі неправильних – послаблюють силу нейронних зв’язків.

Інформація передається між нейронами нейромережі так само, як в людському мозку інформація передається між нейронами. Проте навіть найскладніші нейромережі набагато простіше біологічного мозку. Навчання відбувається не за десять, не за тисячу, а за сотні тисяч разів.

Не зважаючи на те, що процес навчання довший ніж, наприклад, людський, навчившись щось робити, нейромережа швидко перевершує в цій справі людину. У 1997 році комп’ютер Deep Blue виграв матч з 6 партій чемпіона світу з шахів Гаррі Каспарова. А в 2016 комп’ютер AlfaGo обіграла кращого в світі гравця в Го – Лі Седоля. До цього вважалося, що ця гра дуже складна для програми. Варіантів ходів в ній в 10 разів більше, ніж в шахах, а число можливих партій перевищує кількість атомів у всесвіті.

Спочатку програма продивилася матчі кращих гравців, а потім стала грати сама з собою, стаючи все досконалішою. Згодом нейромережа стала інтуїтивно розуміти, який хід їй варто зробити наступним.

Гарний спосіб навчання – гра нейромережі з нейромережею. Одна програма генерує реалістичне зображення, пропонуючи вгадати іншій чи все вірно в класифікаторах. Таким чином, перша програма грає роль фальшивомонетника, намагаючись вигадати все більш досконалу підробку, а інша – експерта, який намагається все якісніше розпізнавати підробку.

Зараз нейромережі багато чому навчилися. Покращувати фото зняті в темряві, писати музику, імітуючи стиль старих композиторів, нейромережа навіть вигадала реп альбом. У 2014 році штучний інтелект вперше написав нотатки для статті  в «Los Angeles Times» про землетрус у Каліфорнії, зчитавши данні сеймографів. Хоча штучний інтелект і розвивається дуже швидко, створення сюжетів і сценаріїв залишається долею людини.

Незважаючи на швидкозростаючі здібності, нейромережу можна легко повести хибним шляхом, якщо знати її слабкі сторони. Наприклад, розпізнавання голосу можна заховати, записавши їх на частоті, нечутній для людського вуха. Або візуальну інформацію можна спотворити, накладаючи незначний кольоровий шум. Це схоже на макіяж для захисту від системи розпізнавання осіб.

Існує теорія так званого «переполоху китайської кімнати», коли ви не знаєте, хто знаходиться всередині, але ви можете задати йому усвідомлене питання китайською, після чого ви отримаєте відповідь так само китайською мовою. Людині поза кімнатою здається що усередині китаєць, але насправді у кімнаті європеєць, який не знає ані єдиного ієрогліфу. У нього є інструкція, як обмінювати один ієрогліф на інший, але немає їхнього перекладу.

Згідно із теорії розуму, істота стає розумною тільки тоді, коли її свідомість розуміє, що відрізняється від свідомості іншого. Але експерименти показують, що більшість дітей до 4 років не усвідомлюють цієї відмінності. Компанія DeepMind створила комп’ютерного манекена, який самостійно навчається  новому як дитина до 4 років. Йому дали завдання – рухатись із точки А у точку Б, але не сказали як. Він гине сотні разів і приходить до успіху через досвід. Доки машини будуть копіювати нашу поведінку і мислення, не навчаючись цьому з нуля, вони приречені залишатись у китайській кімнаті не дістаючи рівня розуму чотирьохлітньої дитини. Такі штучні інтелекти гарні лише в одній області. Майбутнє за тими машинами, які зможуть вирішувати одразу всі задачі доступні людському мозку.

Далі варто ознайомитись з Теоремою про відсутність безкоштовних сніданків у пошуку та оптимізаціі (No free lunch theorem), вона звітує, що, якщо якийсь алгоритм гарно оптимізован для вирішення одних завдань, то він погано оптимізован для вирішення інших.

Поки одні програми навчаються грати у складні ігри, а інші замінюють нам водіїв, люди вміють це все одночасно. У цьому полягає головна відмінність. Поки ми не дізнаємось, як працює наша свідомість, ми не зможемо побудувати розумний штучний інтелект.

Тепер, дізнавшись про деякі вражаючі вміння штучного інтелекту на сьогоднішній день, повернемося до питання, яке було задане на початку статті – чи варто боятися штучного інтелекту і чи зможе він нас поневолити.

Бойові роботи вже існують, вони можуть знаходити і захоплювати цілі, знищувати угруповання. Але на спусковий гачок натискає все ж людина.

Взагалі штучний інтелект може нашкодити нам. Тайванський підприємець в області програмного забезпечення та штучного інтелекту Кайфу Лі каже, що протягом 15 років штучний інтелект відбере в нас 50% професій.

Це страшно, але не так вже й критично. З’являються нові види робіт. Зараз штучний інтелект допомагає нам кожен день. Ми будуємо маршрут в картах, отримуємо таргетовану рекламу, дізнаємося прогноз погоди. Це все схоже на довіру до літака. Раніше люди з побоюванням ставилися до літаків, а зараз вони визнані найбезпечнішим видом транспорту.

Самі люди вже давно кіборги. Окуляри, ескалатор, автомобіль – це наші додаткові органи та кінцівки. Нові технології вже давно невід’ємна частина нашого життя, але страх перед ними нікуди не подівся.

Висновок:

Так, нейромережа краще справляється з конкретними завданнями ніж людина, але зробити нейромережу, яка могла б керувати нейромережами, зараз і в найближчому майбутньому неможливо. Проте, якщо такий штучний інтелект і існує, він не ідеальний, адже написаний людиною.

Машина не матиме за мету захоплення світу доти, доки людина не поставить перед нею таке завдання. Та навіть не зважаючи на це, щоб захопити світ, машина повинна цього навчитися. Для цього вона має програти цей сценарій мільярди разів. Проте до цього моменту людство теж розвинеться.

Та головне: для того, щоб захопити людство, машині знадобиться свідомість. Парадоксальність полягає в тому, що як би сильно людство не розвивалося, ми, люди, до сих пір не розуміємо що таке свідомість.


СПИСОК ВИКОРИСТАНИХ ДЖЕРЕЛ:

 

  • Китайская комната. Вікіпедія. Онлайн енциклопедія. Вилучено з https://ru.wikipedia.org/wiki/Китайская_комната.

  • Deep Blue — Каспаров (1997, партия 6). Вікіпедія. Онлайн енциклопедія.  Вилучено з  https://ru.wikipedia.org/wiki/Deep_Blue_—_Каспаров_(1997,_партия_6)).

  • «Матч AlphaGo — Ли Седоль». Вікіпедія. Онлайн енциклопедія. Вилучено з https://ru.wikipedia.org/wiki/.


CAN ARTIFICIAL INTELLIGENCE OVERTAKE BIOLOGICAL AND IS IT WORTH IT TO BE AFRAID

KOCHINA
K., student at the Faculty of Computer Science
Kharkiv National University of Radio Electronics
UKRAINE

SCIENTIFIC ADVISER:

MATVIEIEV D.,
Assistant of the department of Software Engineering
Kharkiv National University of Radio Electronics
UKRAINE

Abstract.
This article highlights issues that are increasingly arising with the development of artificial intelligence, such as how quickly it develops, how much it is similar to a biological one or can make it a competition and whether artificial intelligence capable of winning over biological. Each of the issues is covered in real-world examples, with more information being freely available on the Internet.


Keywords: artificial intelligence, artificial intelligence development, artificial intelligence threat, neural networks.

© Кочіна К.Р., 2020

© Kochina K., 2020

 

This work is licensed under a Creative Commons Attribution 4.0 International License.

PUBLISHED : 06.01.2020