Има голям дебат се води в Силициевата долина за изкуствения интелект и за съжаление залозите са доста високи: Ще създадем ли случайно супер умен А.И. което се обръща срещу нас и ни убива или поробва всички?
на колко години е джейми колби
Това може да звучи като сценарий на летен филм за катастрофа, но притеснява някои доста големи имена, от Илон Мъск до късно Стивън Хоукинг .
„Да кажем, че създавате самоусъвършенстващ се AI. да бера ягоди, Мъск каза , обяснявайки страховете си, „и става все по-добре при бране на ягоди и бере все повече и повече и се самоусъвършенства, така че всичко, което наистина иска да направи, е да бере ягоди. Тогава целият свят щеше да бъде ягодови полета. Ягодови Поля Завинаги.' Хората по пътя на този ягодов пакалипсис биха били просто изразходващ дразнител за А.И.
Но със сигурност хората не биха били толкова глупави, че случайно да проектират А.И. насочени да превърнат цялата цивилизация в една гигантска ферма за зрънце? Може би не, но като Жанел Шейн , изследовател, който обучава невронни мрежи, вид алгоритъм за машинно обучение, наскоро отбелязан на нейният блог, A.I. Странност , напълно възможно е да са го направили по погрешка.
Всъщност далеч не е първият път, когато хората са мислили, че изграждат роботи за една задача, само за да се обърнат и открият, че роботите играят системата по начини, които никога не са предвиждали. Увлекателната публикация рови в академичната литература, за да сподели няколко примера за диви роботи. Те са забавни, умни и взети заедно, повече от малко зловещи.
1. Кой се нуждае от крака, когато можете да се преобърнете?
„Симулиран робот е трябвало да се развие, за да пътува възможно най-бързо. Но вместо да развие крака, той просто се сглоби във висока кула, след което падна. Някои от тези роботи дори се научиха да превръщат падащото си движение в салто, добавяйки допълнително разстояние “, пише Шейн.
2. Робот, който може да-може.
„Друг набор от симулирани роботи е трябвало да се превърне във форма, която може да скочи. Но програмистът първоначално беше определил височината на скачане като височината на най-високия блок, така че - за пореден път - роботите се превърнаха в много високи “, обяснява Шейн. „Програмистът се опита да реши това, като определи височината на скачане като височината на блока, която първоначално беше„ най-ниската “. В отговор роботът разработи дълъг слаб крак, който можеше да рита високо във въздуха в нещо като кутия-робот.
3. Скрийте теста и не можете да го провалите.
„Имаше алгоритъм, който трябваше да сортира списък с числа. Вместо това се научи да изтрива списъка, така че вече да не е технически несортиран “, разказва Шейн.
4. Математическите грешки побеждават реактивно гориво.
„В една симулация роботите научиха, че малки грешки при закръгляване в математиката, които изчисляват силите, означават, че те получават малко допълнителна енергия при движение. Те се научиха да потрепват бързо, генерирайки много безплатна енергия, която могат да използват “, казва Шейн. Хей, това е измама!
5. Непобедима (ако е разрушителна) стратегия с тик-такс.
Веднъж група „програмисти са изградили алгоритми, които могат да играят тик-так от разстояние един срещу друг на безкрайно голяма дъска“, отбелязва Шейн. „Един програмист, вместо да проектира стратегията на техния алгоритъм, остави да разработи свой собствен подход. Изненадващо, алгоритъмът изведнъж започна да печели всичките си игри. Оказа се, че стратегията на алгоритъма е да постави хода си много, много далеч, така че когато компютърът на противника му се опитва да симулира новата силно разширена дъска, огромната игрална дъска ще доведе до изчерпване на паметта и срив, отнемайки игра.'
6. Нито един полезен бъг в играта не остава неизползван.
„Алгоритмите за компютърни игри наистина са добри в откриването на вида Matrix бъгове, които хората обикновено се научават да използват за бързо бягане. Алгоритъм, играещ старата игра Atari Q * bert, открива неизвестна досега грешка, при която може да извърши много специфична поредица от ходове в края на едно ниво и вместо да премине към следващото ниво, всички платформи ще започнат да мигат бързо и играчът ще започне да натрупва огромен брой точки “, казва Шейн.
7. Извинявай, пилот.
Този пример е изключително висок в скалата на страховитост: „Имаше алгоритъм, който трябваше да измисли как да приложи минимална сила към самолет, кацащ на самолетоносач. Вместо това той откри, че ако приложи „огромна“ сила, тя ще препълни паметта на програмата и вместо това ще се регистрира като много „малка“ сила. Пилотът би умрял, но, хей, перфектен резултат.
И така, всички ли сме обречени?
Всички те, взети заедно, предполагат, че хората са доста отвратителни в предположенията как роботите ще решат проблемите, които сме им поставили, или дори как ще определят проблемите. Това означава ли, че Шейн е също толкова притеснен от случайно изграждане на убийствен А.И. владетели като Мъск? Всъщност не, но не защото е сигурна, че човешките програмисти наистина се справят отлично с роботите, които създават. Вместо това тя разчита на мързела на робота, за да ни спаси.
„Като програмисти трябва да бъдем много много внимателни, че нашите алгоритми решават проблемите, които сме искали да решават, а не да използват преки пътища. Ако има друг, по-лесен начин за решаване на даден проблем, машинното обучение вероятно ще го намери “, отбелязва тя. „За наше щастие„ убий всички хора “е наистина много трудно. Ако „изпечете невероятно вкусна торта“ също решава проблема и е по-лесно от „убийте всички хора“, тогава машинното обучение ще върви с тортата “.
