Небезпечно розумний

Опасно разумен.

Евгений Корниенко Сознательные машини розвиватимуться за експонентою, тому що їм непотрібно витрачати час навчання з того що вже відомо попереднім поколениям.

Я передбачаю свідоме оружие.

Что відбудеться, якщо алгоритм штучного розуму стане загальнодоступний? Це ж буде напівживий комп’ютерний вірус, а добре думаюча бездушна машина. Така машина неспроможна співчувати людині чи зрозуміти його почуття, оскільки «вищі «почуття (гумор, самотність) походить від самозбереження, що є ознакою життя, а чи не розуму.

Искусственный інтелект — це складна й дорога атомна технологія. Це просто-таки програма, яку легко копіювати. А що як цей алгоритм не вимагає величезних обчислень? Я підозрюю, що добре організований асоціативний мозок, той самий смышлёный, як мозок тварин, може розміститися в настільному компьютере.

Каждый тиран і бандит побажає такого сообщника.

Понимание небезпеки штучного розуму недостатньо задля унеможливлення цій небезпеці, особливо після випадку, коли ця технологія поступово заполонить увесь світ. Війни і самогубства теж небезпечні. Але ми проводимо это.

Наиболее реальна надія уникнути небезпечних наслідків нову технологію — це сила грошей. Державного бюджету і особиста гаманець можуть подолати можливе військове застосування штучного розуму, позаяк у мирного життя ця технологія ще потрібніші, ніж у оборонної отрасли.

Проблема штучного розуму незабаром вирішена. Але до цього неможливо морально подготовиться.

Сначала ми вчити роботів з того що вважаємо корисним. Потім вони розвиватися за експонентою, тому що їм непотрібно витрачати час на вивчення те, що знають їх предки. Знання накопичуватимуться над книгах (і учителів), а мізках цих роботів.

Невозможно, щоб робот, який розумнішими моїй 10 раз, був моїм слугою. Швидше ми станемо слугами наступних поколінь роботів, які будуть множити знання удесятеро ежегодно.

Пробуждение кибер сознания.

Не викликає особливих заперечень ідея у тому, що свідомість розвинулося як адаптації. Тому, винаходячи адаптуються роботів, ми створюємо розумні системи. Спочатку вони виглядають просто адаптирующиеся програми. Тож навіть найбільш прозорливі людей не сприймають їх свідомими. Новонароджений дитина теж не здається занадто разумным.

Слово інтелект зараз перетворилася на атрибут реклами. Ми вже готові бачити елементи свідомості в операційній системі. А тварини, вони лише розумні (раціонально поводяться) чи вони відчувають усвідомлюють себе? Перехід від машино-подобного інтелекту до свідомості відбувається тоді, коли істота виявляє зв’язок між своїм дією і йде своєю станом. Виникає відчуття. Свідома річ усвідомлює своє поведінка. Вона відрізняє своє поведінка з інших подій. Вона відрізняє себе з інших речей.

Итак, кожна більш-менш складна адаптирующаяся система, що її схильні вважати розумної, є свідомої. Розумна річ спочатку веде себе розумно, а свідома річ сама винаходить розумна поведінка — адаптується. А ми суб'єктивно оцінюємо це поведінка. Чи воно розумно? Можу уявити систему, що добре каже, але цілком запрограмована. З іншого боку, така проста істота, як морської заєць — Aplysia, винаходить своє просте поведінка без будь-якого попереднього програмування. Його мозок не знає заздалегідь, у яких умовах доведеться жити. Вона має крихітне зерно справжнього свідомості. Свідомість відбувається з адаптації, а чи не з складності.

Животные адаптуються до місцевих умов свого життя не оскільки вони усвідомлюють «необхідність виживання ». Вони дбають про їжі, про уникнення болю. Виживання, народження та зміряй — це недоступні абстракції. Таракан втікає не оскільки він боїться смерті, тому, що він передбачає, що гірше. Природний відбір, переймаючись виживання таргана, дав йому здатність предвидения.

Эволюционно мозок має допомагати виживання виду, а зовсім не від думати. Необхідна для виживання передбачення поступово розвинулося в обмірковування майбутніх подій і «своїх дій. Цей подарунок природи тим, кому подобається думати, мабуть, теж допомагає нам виживати. Розуміючи й високо цінуючи це, ми розпочали розробці машин, котрі вважають і усвідомлюють себе. Гадаю, такі машини зажадають набагато менших обчислювальних ресурсів, ніж людський мозок, оскільки спочатку їм потрібно стане піклуватися про підтримці своєї жизни.

Мы поширимо такі машини скрізь.

Неверно, що розробник робота точно задає його поведінка. Мало який захоче і кожен зможе ознайомитися з подальшою долею свого твори. Іноді винахідник спеціально відпускає своє створення на волю, наприклад, якщо це комп’ютерний вірус. І взагалі, багато речей, які ми створюємо, ми можемо цілком контролювати. Наприклад, дітей. Штучний розум — це ще одне пример.

Первые ледь розумні речі матимуть ледь вільну волю. Але ми претендуємо створення справжнього розуму, нічого й не поступався людському. Тому «просто розумність «- це перший крок такої справи. Зрештою, завдання створення штучного розуму, має волю й прагнення, вирішить.

Если ваша ласка розумної машині приймати рішення, то не зможете знати заздалегідь, що це за рішення. Ви теж можете бути впевнені, що рішення вас влаштують. Хіба ви задоволені навіть своїми рішеннями? Тому машина зможе здійснити своєї волі відповідно до своїми судженнями, навіть якщо не желаете.

Искусственный відбір роботов.

Для вирощування поколінь розумних машин, які мають лише корисними ознаками, можна застосовувати штучний відбір. Такий відбір як знищення непридатних штучних створінь успішно перевірений, наприклад, при виведенні нових порід собак. Але як ви вже уявляєте собі знищення істоти, яке розумніший, і чуйніші вас, якщо воно цінує себе і своє сознание?

Достаточно розумні роботи зможуть винайти спосіб проходження наших тестів, щоб задовольнити критеріям штучного відбору. Якщо розумне істота цінує себе, воно намагатиметься вижити в селектирующей м’ясорубці, застосовуючи усі кошти та хитрості. У цьому роботи стануть ще небезпечніше, аніж за досить вільному воспитании.

Я бачу тільки єдиний шлях, дає сподіватися безпечне співіснування з роботами. Коли вони знайдено й перевершать людський рівень інтелекту і проявлять прагнення проводити громадські процеси, потрібно обрати франшиза право на обрання. Тоді моральний відбір, який чи діє у суспільстві, буде також відбирати та їхніх представників штучного покоління відповідно до бажаннями виборців. Поки що це процес стане стабільним, сподіваюся, зможемо утриматися від створення занадто потужних і дуже розумних роботів. Хоча цей надія логічно не обоснована.

В результаті розширення зрештою, ніщо живе нічого очікувати потрібно новому поколінню синтетичної життя. Пильнуйте, коли ми станемо домашніми годованцями чи игрушками.

Список литературы

Для підготовки даної роботи було використані матеріали із російського сайту internet.