Мова машин: чому Facebook злякався власного штучного інтелекту?

Фахівці лабораторії Facebook AI Research Lab (FAIR) намагалися навчити штучний інтелект спілкуватися з допомогою спеціально створених чат-ботів. Спочатку AI спілкувався англійською мовою, але в якийсь момент почав листуватися на мові, яку сам створив в процесі розвитку програми. Знайомі символи шикувалися в конструкції, незрозумілі для людини. Після виявлення збою дослідники вирішили зупинити роботу штучного інтелекту. В американських ЗМІ з'явилися уривки з "діалогів", які вели між собою віртуальні співрозмовники. Один з діалогів у перекладі українською виглядав приблизно так (орфографія і пунктуація збережені): Боб: Я можу можуЯЯ все інше. Еліс: Кулі мають нуль для мене для мене для мене для мене для мене.

Це насторожує

Дослідники не змогли розібрати достовірні значення всіх «слів». Свою роль зіграло і те, що в процесі навчання AІ не отримував жодних заохочень за використання англійської мови. В результаті боти перейшли на більш короткі позначення, зміст яких залишається загадкою для нас. Таким чином і з'являються побоювання, що в майбутньому машини збунтуються і об'єднаються проти людства, хоча IT-гіганти намагатимуться не допустити подібний сценарій.

"Найбільша загроза"

Експерти побоюються, що якщо боти почнуть активно спілкуватися на своїй власній мові, то поступово стануть все більш самостійними і зможуть функціонувати поза контролем IT-фахівців. Тим більше, що навіть досвідчені інженери не можуть повністю відслідковувати хід розумового процесу спамерських пошукових роботів. Що цікаво, кілька днів тому про штучний інтелект посперечалися керівник Facebook Марк Цукерберг і засновник SpaceX, Tesla і PayPal Ілон Маск. Маск закликав владу США посилити регулювання систем штучного інтелекту, попередивши, що AІ становить загрозу для людства та назвав штучний інтелект "найбільшою загрозою, з якою стикається цивілізація". За його словами, якщо вчасно не втрутитися в процес розвитку цих систем, то буде надто пізно. Марк Цукерберг був налаштований більш оптимістично та назвав міркування Ілона Маска про кінець світу через AІ "безвідповідальними". "У найближчі п'ять або десять років штучний інтелект буде робити життя тільки краще", - сказав тоді Цукерберг. Джерело: ibtimes.com