Коли він не працює над прискоренням пориву людства до Сингулярності шляхом створення штучного загального інтелекту (AGI), Бен Гертцель грає в джаз-рок-гурті під назвою Jam Galaxy, який очолює робот на ім’я Дездемона.
Це один із багатьох його сайд-проектів, який природно спонукав його спробувати символізувати музичний бізнес, звернувшись до учасників Pearl Jam і Heart. Гертцель також працює над дослідженням довголіття шляхом краудсорсингу даних про здоров’я людей із символічними винагородами через додаток Rejuve.ai. Потім ця інформація об’єднується з даними досліджень тварин і комах і аналізується за допомогою штучного інтелекту, щоб визначити, які частини генома можуть змусити нас жити довше, а потім стимулювати за допомогою генної терапії. «У нас були досить вражаючі відкриття проривного рівня», — каже він. О, і незадовго до завершення нашого годинного інтерв’ю він мимохідь згадує, що він також створює стейблкойн для свого децентралізованого ринку штучного інтелекту SingularityNET, який прив’язаний до синтетичного індексу екологічного прогресу — тому що прив’язка його до доларів США була б «кульгавий».
«Прогрес щодо навколишнього середовища дуже стабільний. Це ніколи нікуди не йде», — зазначає він.
«І щоб маніпулювати цим, вам потрібно фактично вирішити проблему глобального потепління».
Це саме той тип політичного коментаря, який поєднується з високотехнологічним ноу-хау, якого ви могли б очікувати від Герцеля, який виглядає та звучить як учений-хіпі, який натрапив на машину часу в 1971 році та вийшов повністю сформованим у 2023 році. Але нехай вас не обманює капелюх із тваринним принтом, довге волосся та розтягування кислоти Electric Kool-Aid: він геніальний учений, який усвідомлює майбутнє на світлові роки попереду більшості та бореться з одними з найбільших концепцій, які коли-небудь розглядало людство. Що таке свідомість? Як ми створюємо штучне життя, і що станеться, якщо ми йому не сподобаємося, стане шахраєм і розстрілює всіх, як у Термінатор 2?
Що таке штучний загальний інтелект?
Ґерцель популяризував термін «штучний загальний інтелект» як спосіб відрізнити справжню мислячу машину, яка може навчатися майже всьому, від ШІ, оптимізованого для виконання одного конкретного завдання, як-от комп’ютер Deep Blue, який знаменито переміг чемпіона світу з шахів Гаррі Каспарова. Він відкрито визнає, що створення машини, яка здатна навчитися всьому і всьому, включаючи те, як перепрограмувати себе, щоб стати на порядок розумнішою за будь-яку людину, пов’язано з ризиками.
«Існує низка ризиків і небезпек, пов’язаних з AGI», — каже Гертцель під час шуму в індійському ресторані в жвавому торговому центрі Сінгапуру. «Одна з них, яка привернула багато уваги ЗМІ, полягає в тому, що AGI буде шаленіти, знищити людство та захопити всесвіт. Це цілком можливо; ви не можете виключити це», - каже він.
«Ще один більш вірогідний ризик полягає в тому, що злі егоїсти будуть використовувати ШІ для прояву власної жадібності та контролю над іншими людьми».
На його думку, уряди навряд чи зроблять прорив у AGI, оскільки вони «надто консервативні та дурні», хоча він зазначає, що Китай доручає роботу AGI таким компаніям, як Tencent і Baidu. Ближче до дому, він вважає, що підрозділи ШІ Google і Facebook також не переступлять межі, оскільки вони будуть надто зосереджені на тому, щоб ШІ досягав певних показників, що не сприяє творчому мисленню.
«Подібно до того, як найгеніальніші люди не хочуть просто обслуговувати чиїсь показники, я вважаю, що штучний загальний інтелект не обов’язково хоче максимізувати кількість кліків на чиїйсь веб-сторінці, чи не так? Треба дозволити йому пограти творчо».
Сингулярність близько 1970 року
Герцель вступив до університету в 15, закінчив у 18, отримав докторський ступінь у 22 і молоду сім’ю в 23. Можливо, незвичайно в наш час, він був не просто фахівцем з математики чи технічним генієм, який спаював комплекти комп’ютерів у 70-х роках. але однаково цікавився філософією, творчістю та музикою.
Більшу частину своєї кар’єри він присвятив викладанню та дослідженню інформатики, математики та когнітивних наук у різних університетах по всьому світу, одночасно працюючи над технологіями ШІ, коли міг. Серійний засновник, який, як правило, на десять років випереджає всіх зі своїми ідеями — що в бізнесі знаменито означає бути неправим — він працював над використанням штучного інтелекту для прогнозування фінансових ринків і довголіття, а також працював головним науковим співробітником Hanson Robotics, де він дав роботі Софії її штучний мозок.
Герцель думав про експоненційне технологічне зростання з 1970-х років, коли він уперше прочитав Джеральда Фейнберга Проект Прометей, який розповідає про «машини, які можуть мислити краще за людей… нанотехнологічні машини, які є мікроскопічно малими, і ми збираємося вирішити проблему старіння». Це чудово узгоджувалося з новою концепцією Сингулярності, гіпотетичної точки в майбутньому, коли технологічний прогрес стане неконтрольованим і незворотним, що призведе до масштабних змін людської цивілізації.
«Отже, люди житимуть вічно, тоді постане питання: Для чого ми використовуємо ці технології, для швидкого безглуздого споживацтва чи для розширення свідомості? І він [Файнберг] запропонував поставити це на демократичне голосування».
Роками пізніше, коли він почав бачити, що AGI доступний для нас, це «демократичне голосування» стало джерелом натхнення для того, щоб спочатку використати технологію з відкритим вихідним кодом, а згодом і блокчейн як спосіб поставити відповідальність за цю технологію на кооперативну спільноту.
«У певний момент я зрозумів, що для штучного інтелекту відкритого коду недостатньо», — каже він. «Вам дійсно потрібно навчити штучний інтелект на хреновій купі даних».
«Це те, де блокчейн виступає як спосіб зробити обробку та дані, що лежать в основі штучного інтелекту, децентралізованими та краудсорсинговими за своєю природою та відкритими для контролю. І це виявилося складніше, ніж просто відкрити вихідний код».
Гертцель заснував OpenCog у 2008 році, щоб створити структуру штучного інтелекту з відкритим вихідним кодом. Його використовували 50 компаній, у тому числі Huawei та Cisco, і незабаром планується суттєве оновлення під назвою Hyperon, яке має на меті прискорити його у 200 разів. Альфа-версія має вийти в цьому кварталі, а бета-версія очікується наступного року.
Блокчейн простий, але крутий
Для Ґертцеля технологія блокчейн є дещо базовою. Він описує це як примітивні розподілені алгоритми, додані до криптографії, але «крута комбінація» дозволяє системам працювати без централізованого контролю, що робить її ідеальною для його потреб.
«Якщо ви збираєтеся створити мислячу машину, і ви збираєтеся зробити її розподіленою нанорозмірною обчислювальною системою, було б дуже добре, якби вона належала всім і нікому, а не контролювалася зверху вниз».
Блокчейни надто повільні, щоб справлятися з вимогами до обробки та величезними обсягами залучених даних, тому перед розробкою революційного AGI існує певна гонка за належним масштабуванням блокчейну. Гертцель каже, що, хоча рішення для масштабування, такі як зведення з нульовим знанням, є кращими, вони все одно не мають достатньої пропускної здатності через обмеження блокчейну, якому вони повідомляють про транзакції.
У 2017 році він став співзасновником SingularityNET, яка одночасно є децентралізованим ринком послуг і технологій ШІ та методом координації на основі блокчейну для спільної роботи дослідників — або навіть ШІ.
Наразі, спираючись на Ethereum, він вважає, що просунув речі настільки далеко, наскільки це можливо в блокчейні в його поточній формі. Тому, коли він не працює над проривом у AGI (або групі, або роботах, або довголіття), він працює над масштабним масштабуванням блокчейна, щоб забезпечити йому необхідну пропускну здатність.
«Якщо ви не зможете радикально підвищити масштабованість блокчейну, ви не зможете помістити внутрішню роботу штучного інтелекту в мережу».
ШІ ближче, ніж ви думаєте
2022 рік став роком прориву для працюючих продуктів на основі технології штучного інтелекту, включаючи мовні програми (GPT-3, ChatGPT), кодування (GitHub Copilot) і створення зображень (DALL-E і Stable Diffusion). Bing навіть планує взяти на себе домінування Google у пошуку цього року, включивши технологію ChatGPT у свою пошукову систему.
Гертцель вважає, що AGI може відбутися лише через п’ять років, і зазначає, що розвиток у цій галузі, здається, відбувається короткими три- або чотирирічними сплесками в серії проривів.
«Комп’ютерне бачення почалося в 2014 році, а потім раптом, бац, бац, бац, таємниця була розгадана. Обробка природної мови… після того, як Google представив модель Bert (у 2018 році), у вас був GPT-3. Ймовірно, ви побачите такий самий прогрес у AGI. У вас буде один прорив, потім великий прогрес протягом двох років», – сказав він.
«Різниця полягає в тому, що в цьому випадку проривний прогрес призводить до появи машини, яка потім може продовжувати прогресувати, переписуючи власний код».
Герцель сподівається, що проекти та співпраця, які він запустив, можуть бути такими, як це відбувається.
«Якщо нам пощастить, ми досягнемо цього прориву протягом наступних трьох-п’яти років з OpenCog Hyperon, що працює на SingularityNET, що працює на Hypercycle», – каже він. «Але якщо в нас не буде секретного соусу, його знайде хтось інший».
Шкода, що Віталік не був інформатиком
Рішення Герцеля щодо масштабування блокчейну є досить радикальним і передбачає турбо-зарядку сайдчейну або другого рівня Cardano під назвою «HyperCyle».
«Це справді більше, ніж сайдчейн. HyperCycle також співпрацюватиме з Ethereum та іншими блокчейнами, але ми будемо використовувати там інтерпретатор Plutus, але ми позбудемося бухгалтерської книги».
Він описав HyperCycle онлайн як рішення «трилеми блокчейну»: «децентралізація проти безпеки та продуктивності, позбувшись реєстру та використовуючи більш сучасні/повністю децентралізовані алгоритми та структури даних, а також трохи ШІ та систем репутації».
Книга лежить в основі технології блокчейну, але він каже, що змусити кожен вузол у мережі відтворювати кожну транзакцію та обробляти кожен смарт-контракт неймовірно неефективно.
«Бухгалтерська книга просто погана. Якщо ви подумаєте про це, якщо ви подумаєте про аналогію ваших контактів у вашій телефонній книзі, я маю на увазі, що книга схожа на […] зберігання 10,000 10,000 копій Жовтих сторінок, і ви оновлюєте їх кожного разу, коли приходить хтось новий або якщо хтось змінює свій номер телефону. Це справді безглуздо оновлювати XNUMX XNUMX примірників Жовтих сторінок».
У версії аналогії HyperCycle замість того, щоб усі зберігали та оновлювали жовті сторінки, люди у вашій книзі контактів зберігають копію вашої адресної книги, і навпаки, зашифровану вашим особистим ключем.
«Ми з’ясували, як змусити блокчейн працювати без копіювання реєстру, щоб розділити весь шлях. Кожна особа, задіяна в блокчейні, зберігає власну історію транзакцій, а також історію транзакцій своїх друзів і деяких друзів своїх друзів», — говорить він.
«Шардинг до кінця, вам не потрібна книга — вам не потрібна таблиця бази даних. Ці речі надто централізовані».
Він каже, що деякі перевірені вузли HyperCycle вже працюють, але повномасштабний запуск відбудеться не раніше другої половини 2024 року.
Ми довго обговорюємо різноманітні переваги різних підходів до блокчейну, від Інтернет-комп’ютера до Elastos і Celestia, багато з яких є вищими за мій рівень зарплати та перевищують можливості мого записуючого пристрою для точного запису в шумному ресторані.
Він завершує словами: «Я просто відчуваю, що жодна з цих архітектур не є достатньо радикальною. Вони всі тримаються занадто близько до біткойна».
«Я маю на увазі, що поки ви запускаєте кожен смарт-контракт на кожному вузлі, це буде шалено повільно. Тепер, у HyperCycle, якщо ви запустите смарт-контракт на п’яти вузлах, принаймні це буде лише в п’ять разів повільніше, ніж на одній машині — це не в 10,000 XNUMX разів повільніше».
Тоді чому Cardano?
Герцель подружився із засновником Cardano Чарльзом Хоскінсоном, і їхня пара пов’язана через їхні проекти в Африці. Він вважає, що Хоскінсон «справді там, щоб врятувати світ. Я маю на увазі, що в політичному плані він більш жорсткий лібертаріанець, ніж я — я більше анархо-соціаліст — але він не просто в цьому, щоб заробляти гроші чи витягувати з інших людей їхні гроші».
Але справжня привабливість Cardano полягає в тому, що він використовує мову програмування Haskell, шанувальником якої Гертцель є з 1993 року. Його дуже засмучує те, що співзасновник Ethereum Віталік Бутерін вибрав мову програмування для смарт-контрактів Гевіна Вуда Solidity.
«Якби Віталік знав більше інформатики, він би змусив їх використовувати Haskell або F Sharp чи щось подібне, і було б набагато менше зломів блокчейну», — каже він.
«Якщо ви збираєтеся керувати більшою частиною світової економіки, торгуючи трильйонами доларів на якійсь системі програмного забезпечення, вам буде краще побудувати цю систему програмного забезпечення на мові, яка не схильна до помилок і де ваші алгоритми можуть бути формальними перевірено за допомогою математичної теорії. Це просто правильний спосіб робити речі».
Проміжне рішення
Незалежно від того, наскільки швидким стає блокчейн, як тільки AGI стає на порядок розумнішим і здатнішим за людей, Герцель каже, що він не дозволить нікому контролювати його.
«Коли AGI у 100 разів розумніший за людей, він не хоче, щоб ми ним керували, як нами не керували б шимпанзе чи осел, правда?»
«Тоді я б сказав, що питання не в тому, хтось із нас контролює це, питання в тому: чи добре воно до нас ставиться? Чи дозволить це людям регулювати свій власний бізнес і забезпечить нас крутими інструментами та наносемблерами, щоб 3D-друкувати все, що ми хочемо, і лікувати наші хвороби?»
«Але в перехідний період, коли інтелект AGI приблизно такий самий, як і люди, це коли речі стають більш чутливими та цікавішими. І виникає питання: чи хоче AGI співпрацювати з людьми? Або він параноїк і хоче контролювати людей, перш ніж вони його знищать?»
Добре вчіть своїх дітей
На думку Герцеля, вихід полягає в тому, щоб навчити AGI піклуватися про інших, а також про творчість і мистецтво. Саме тут з’являється робот Дездемона в його групі та її сестра Грейс, яка призначена для догляду за літніми людьми.
Спосіб уникнути перетворення AGI на Скайнет Термінатора полягає в тому, щоб не будувати його таким чином.
«Звичайно, Skynet у фільмі була мережею комп’ютерної безпеки, яка буяла. Його створили, щоб захищатися від людей», — каже він.
«Але якщо ви створите перший AGI, який займатиметься доглядом за літніми людьми, творчим мистецтвом і освітою, коли він стане розумнішим, він буде орієнтований на допомогу людям і створення крутих речей. Якщо ви створите перший AGI, щоб вбивати поганих хлопців… можливо, він продовжить робити це».
«Тож, вигідно це чи ні, насправді все залежить від того, які програми ви розробили та за що вас стимулюють».
Він вважає, що розміщення штучного інтелекту в тілах роботів є корисним, оскільки це допомагає розмістити їх у реальному світі, а не в якомусь абстрактному математичному всесвіті.
«ШІ повинен дізнатися про світ людей і фізичний світ. Бути втіленим у світі — це правильний спосіб зробити це», — каже він.
Але коли він представляє робота Софію великій аудиторії, візуальні та слухові датчики можуть бути легко перевантажені, збиваючи ШІ з пантелику в гучному та яскравому середовищі. Отже, Sophia незабаром буде запущена в метавсесвіті під назвою Sophiaverse. Забудьте про нудні текстові відповіді ChatGPT, Софія втілена у віртуальному 3D-світі, і вона навчатиметься, спілкуючись із людьми там. Однак він попереджає, що вона, ймовірно, скаже якісь тупі речі.
«У нього є нейронна мережа, схожа на GPT-3 і так далі, яка має значні можливості для відповідей на ваші запитання, але в певному сенсі вони досить дурні».
Підписуватися
Найцікавіше читання в блокчейні. Доставлено один раз a
тиждень.
Джерело: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/