Етика штучного інтелекту та закони щодо штучного інтелекту виявляють тривожні занепокоєння, пов’язані з демонстрацією Дня штучного інтелекту Tesla та постійно зростаючими амбіціями Ілона Маска щодо штучного інтелекту

День Tesla AI у 2022 році настав і минув, увійшовши в історичні підручники, де всі можуть переглянути та проаналізувати досхочу.

Розумієте, у п’ятницю ввечері 30 вересня 2022 року в Силіконовій долині зі всесвітньою онлайн-аудиторією відбулася остання частина щорічних заходів Tesla AI Day. Кажуть, що ця довгоочікувана презентація надасть Теслі та Ілону Маску можливість продемонструвати свої речі та продемонструвати свої останні досягнення ШІ. Маск зазвичай наголошує, що ці події в основному проводяться з метою набору персоналу, сподіваючись розпалити апетити розробників та інженерів штучного інтелекту з усього світу, які можуть бути спокушеними подати заявку на роботу в Tesla.

Мене заваляли проханнями провести глибокий аналіз, який виходить за рамки вже безлічі дещо спрощених репортажів, які потрапили в Інтернет про цей останній день Tesla AI Day. За мить я розповім вам про це, особливо зупинившись на деяких важливих міркуваннях, пов’язаних з етикою штучного інтелекту та законами про штучний інтелект, які досі, здається, не привертали помітної уваги в Інтернеті.

І, щоб було зрозуміло, це питання, які терміново і важливо вивести на поверхню. Про мої загальні поточні та широкі дискусії щодо етики ШІ та ШІ та права див посилання тут та посилання тут, просто назвемо декілька.

Давайте розповімо, що сталося на цьогорічному Tesla AI Day.

КІВОК ГОЛОВОЮ РОЗРОБНИКАМ ТА ІНЖЕНЕРАМ ШІ

Перш ніж я перейду до суті презентацій, дозвольте мені сказати щось важливе про розробників та інженерів штучного інтелекту, які або презентували, або які в геркулесовій манері виконували залаштункову роботу з штучним інтелектом у Tesla. Треба віддати їм належне за те, що вони намагалися зрозуміти часом безглузді вказівки Маска щодо того, над чим вони мають працювати та з якою швидкістю вони мають виконувати свою роботу.

Я згадував про стиль керівництва Маска та його технічну кмітливість ШІ в багатьох своїх попередніх публікаціях, наприклад посилання тут та посилання тут. З одного боку, він достатньо кмітливий, щоб, здавалося б, загалом знати, що відбувається в ШІ, і він служить надзвичайною надихаючою силою для того, щоб прагнути до досягнень ШІ. Без сумніву.

У той же час він також іноді здається позбавленим практичності як такої та палає неприборканими бажаннями та безліччю мрій ШІ. Він, здається, створює дедлайни з повітря. Передчуття є нормою замість будь-яких обґрунтованих прихованих спроб навести реальні оцінки. Він створює химерні бачення того, як дивовижним чином буде створено штучний інтелект, який змінить світ, і говорить про недосяжні часові рамки без, здавалося б, рішучого сплеску систематичних і уважних думок (його безліч передбачень щодо появи повністю автономних безпілотних автомобілів на основі штучного інтелекту). неодноразово демонстрували надумані та непідтверджені заяви).

Деякі наполягають на тому, що він геній, а генії такими бувають. Це як би природа звіра.

Інші заохочують, що лідер, який бере участь у вирішенні завдань, неминуче спіткнеться і, можливо, зробить це за велику ціну, яка в іншому випадку просто не потрібна.

Не те, що денді не зручно мати високопоставленого лідера, який піклується про те, щоб бути в глибині подій. Це може бути надзвичайно корисним. Але коли провидець з широко розплющеними очима виходить за межі, може бути складно або складно для кар’єри спробувати підказати їм, що відбувається насправді. Як згадувалося в соціальних мережах, деякі з розробників штучного інтелекту та інженерів на сцені з Маском, здавалося, мовчки здригалися від різних його надмірних проголошень. Ймовірно, їхні уми гомінко намагалися з’ясувати, що вони можуть зробити або сказати, щоб спробувати зберегти обличчя, утримуючи цей бочкоподібний потяг на хоч трохи реалістичній правильній колії та не злетів повністю з рейок.

Варто сказати розробникам та інженерам ШІ.

ЦЬОГО РАЗУ ТРИ ГОЛОВНІ ТЕМИ

Гаразд, з цією передмовою про головний камінь ми можемо розглянути подробиці Дня Tesla AI.

По суті, було розглянуто три основні теми:

(1) Створення крокуючого робота з гуманоїдними характеристиками (наприклад, Bumble C, Optimus)

(2) Удосконалення, пов’язані з автопілотом Tesla і так званим повним автономним керуванням (FSD)

(3) Зусилля, пов’язані зі спеціалізованим суперкомп’ютером Tesla під назвою Dojo

Трохи короткої довідки, якщо ви не знайомі з цими ініціативами Tesla.

По-перше, Ілон Маск рекламував, що наступним великим проривом для Tesla стане розробка та впровадження крокуючого робота, який нагадує гуманоїдні характеристики. На Tesla AI Day 2021 минулого року відбулася досить ганебна «демонстрація» передбаченого робота, у якій брала участь людина в костюмі, схожому на робота, яка стрибала й танцювала на сцені. Я кажу соромно, тому що це був один із найстрашніших моментів будь-якої демонстрації ШІ. Це не був якийсь макет чи прототип. Це була людина в тонкому костюмі.

Уявіть собі, що ті, хто невтомно працював у дослідницьких лабораторіях штучного інтелекту та робототехніки протягом усього свого життя, у певному сенсі вийшли на другий план людиною в костюмі, яка гарцювала перед всесвітніми камерами. Що зробило це особливо спокусливим, так це те, що більшість звичайних засобів масової інформації з’їли це, гачок, волосінь і грузило. Вони розмістили зображення «робота» на своїх перших шпальтах і, здавалося, радісно й безперечно насолоджувалися тим, що Маск був на порозі створення довгоочікуваних науково-фантастичних ходячих і розмовляючих роботів.

Навіть не близько.

У всякому разі, цього року особа в костюмі, мабуть, була вже не потрібна (хоча, можливо, чекали свого часу на випадок, якщо раптом терміново знадобиться знову з'явитися). Під час відкриття сеансу на сцену вивели дещо роботизовану гуманоїдну систему. Цей робот називався Бамбл С. Після того, як нам показали цю вказану початкову версію майбутнього передбаченого робота, на сцену вивели другого гуманоїда, дещо схожого на роботизовану систему. Ця друга версія була названа Optimus. Bumble C було зазначено як готовий прототип із першої спроби, і він просувається далі за наявними функціями, ніж Optimus. Optimus вказувався як ймовірна подальша версія робота-гуманоїда, і в кінцевому підсумку він може стати серійною моделлю, доступною на ринку.

Загалом, більшість подій і уваги на Tesla AI Day 2022 було зосереджено на таких крокуючих роботах. З’явилися банерні заголовки. Досягнення, пов’язані з автопілотом і FSD, не привернули подібної уваги, а також подробиці про Dojo не отримали багато газетного паперу.

Говорячи про автопілот і FSD, ми повинні переконатися, що деякий час в ефірі приділяється цій частині дня Tesla AI. Як вірні читачі знають, я багато разів докладно описував автопілот Tesla та так звані можливості повного автономного керування (FSD).

Коротше кажучи, автомобілі Tesla сьогодні оцінюються як рівень 2 за шкалою автономності. Це означає, що водій з правами людини повинен весь час перебувати за кермом автомобіля та бути уважним під час керування. Людина – водій.

Я згадав цей важливий момент щодо рівня автономності, тому що багато людей, які не мають технічних знань, помилково вважають, що сучасні Tesla мають рівень 4 або 5.

Неправильно!

Рівень 4 – це безпілотний автомобіль, який керує сам і не потребує водія за кермом. Рівень 4 тоді обмежується відносно конкретної цільової області операційного проектування (ODD). Наприклад, недоліком може бути те, що штучний інтелект може керувати автомобілем лише в певному місті, наприклад Сан-Франциско, і лише за умов, таких як сонячне світло, нічний час і невеликий дощ (але не під час снігу, наприклад). Рівень 5 — це безпілотний автомобіль на основі штучного інтелекту, який може автономно керувати практично будь-яким місцем і за будь-яких умов, за яких водій-людина міг би керувати автомобілем. Для мого детального пояснення рівня 4 і рівня 5 див посилання тут.

Ви можете бути здивовані, дізнавшись, що Tesla з автопілотом і так званим FSD мають лише рівень 2. Назва «Повністю автономне водіння», безсумнівно, означає, що автомобілі повинні бути принаймні рівня 4 або, можливо, рівня 5. Постійна туга і обурення викликало те, що Тесла і Маск назвали свою систему водіння ШІ «Повністю автономне водіння», хоча це явно не так. Почалися судові процеси. Деякі країни взяли їх за найменування.

Звичайним контраргументом є те, що «повне самостійне водіння» є бажаною метою і що немає нічого поганого в тому, щоб називати систему водіння ШІ такою, якою вона зрештою має стати. Протилежністю цьому контраргументу є те, що люди, які купують або їздять на Tesla з FSD, заколисані (або, як кажуть критики, обдурені) вірять, що транспортний засіб справді має рівень 4 або 5. Я не буду розголошувати цю думку та припускаю, що ви могли б поглянути Це посилання тут для отримання додаткової інформації щодо таких питань, як автопілот і FSD.

Третя тема стосувалася спеціалізованого суперкомп’ютера Tesla, відомого як Dojo.

Зверніть увагу на те, що більшість сучасних систем ШІ використовують машинне навчання (ML) і глибоке навчання (DL). Це обчислювальні методи та технології зіставлення шаблонів. Технологія, яка лежить під капотом ML/DL, часто використовує штучні нейронні мережі (ANN). Думайте про штучні нейронні мережі як про грубу симуляцію, яка намагається імітувати уявлення про те, як наш мозок використовує біологічні нейрони, які взаємопов’язані один з одним. Не вважайте помилково, що ШНН — це те саме, що справжні нейронні мережі (тобто wetware у вашому носі). Вони навіть близько не стоять.

При розробці штучного інтелекту для самостійного водіння багато в чому покладаються на використання штучних нейронних мереж. Більшість безпілотних автомобілів містять спеціалізовані комп’ютерні процесори, адаптовані для обробки ШНМ. Щоб запрограмувати та встановити ШНМ, виробник автомобілів або виробник безпілотних технологій зазвичай використовує більший комп’ютер, який дозволить проводити широкомасштабне тестування. Розроблені ШНМ потім можна завантажити в автономні транспортні засоби за допомогою можливостей оновлення по повітрю (OTA).

У випадку з Tesla вони розробляють власний суперкомп’ютер, призначений для створення ШНМ. Це надає запатентовану можливість, яка потенційно може ефективно та ефективно озброїти розробників штучного інтелекту такою обчислювальною смугою пропускання, яка їм потрібна для створення штучного інтелекту, який працюватиме в їхніх безпілотних автомобілях.

Ще одна річ про штучні нейронні мережі та ML/DL.

Окрім використання такої технології для безпілотних автомобілів, цю ж технологію можна використовувати для програмування роботів, таких як гуманоїдні системи, такі як Bumble C і Optimus.

Загалом я вірю, що тепер ви можете побачити, як три головні теми Tesla AI Day пов’язані одна з одною.

Існує спеціалізований суперкомп’ютер Tesla під назвою Dojo, який дозволяє розробляти та тестувати ML/DL/ANN з використанням можливостей великомасштабної обробки. Ці ML/DL/ANN можна запрограмувати для роботи в якості системи водіння ШІ та відповідно завантажити в автомобілі Tesla. Крім того, програмування для роботизованих систем Bumble C і Optimus також можна розробити на Dojo та завантажити в роботів. Додзьо може забезпечити подвійний обов'язок. Розробники штучного інтелекту, яким призначено Autopilot і FSD, можуть використовувати Dojo для своєї роботи. Розробники ШІ, призначені Bumble C і Optimus, можуть використовувати Dojo для своїх зусиль.

Як ви могли здогадатися, існує потенційне збігання або синергія між зусиллями ML/DL/ANN розробників AI для Autopilot/FSD і Bumble C і Optimus. Я розповім про це більше, тож залишайтеся на краю свого місця.

Тепер ви офіційно знайомі з тим, що відбувається, і ми можемо заглибитися в деталі дня Tesla AI Day 2022.

Вітаю, що зайшли так далеко.

ДЕЯКІ ОСНОВНІ ВИСНОВКИ З УРАЗЛИВОСТІ ТА ПРОБЛЕМ

Під час перегляду дня Tesla AI Day 2022 виникла низка проблем і проблем, пов’язаних зі штучним інтелектом.

Я не можу охопити їх усі тут через обмеження місця, тому давайте принаймні виберемо кілька, щоб заглибитися в них.

Зокрема, ось п’ять загальних питань, які я хотів би розглянути:

1) Закони, пов’язані зі штучним інтелектом, і юридичні питання прав інтелектуальної власності (ІВ).

2) Закони, пов’язані зі штучним інтелектом, нещодавно з’явилися в книгах, наприклад COPPA

3) Етика ШІ та проблема робототехніки

4) Закони, пов’язані зі штучним інтелектом для самостійного керування, відрізняються від крокуючих роботів

5) Правове розкриття груп штучного інтелекту для самокерованих і крокуючих роботів

Я розглядаю їх по черзі, а потім підводжу підсумок.

ЗАКОНИ ПРО ШІ ТА ЮРИДИЧНІ ПРАВА ІНТЕЛЕКТУАЛЬНОЇ ВЛАСНОСТІ

Ми почнемо з юридичної проблеми, яка ще має виникнути, але вона може бути досить помітною.

По-перше, майте на увазі, що Bumble C і Optimus були продемонстровані як імовірно крокуючі роботизовані системи, які, здавалося, мали штучні ноги, стопи, руки, руки, а також частину основного тулуба та структуру, схожу на голову. Таким чином, вони нагадують гуманоїдні уявлені системи, які ви бачили в усіх видах науково-фантастичних фільмів.

Під час презентацій було зазначено, що Bumble C має напівготові компоненти. Це має сенс у тому, що для швидкого створення першого прототипу найшвидший підхід зазвичай полягає в об’єднанні інших уже відомих і вже перевірених елементів. Це допоможе вам швидко почати працювати. Це дає вам час на розробку запатентованих компонентів, якщо це те, що ви хочете мати в кінцевому підсумку.

У презентаціях також стверджується, що Optimus складався з переважно доморощених або запатентованих компонентів. Наскільки показаний Optimus має таку перевагу, було неясно. Крім того, що б це не було, неявна припущення полягало в тому, що мета полягала в тому, щоб прагнути бути максимально приватним. Це може мати сенс, оскільки це означає, що ви можете майже повністю контролювати компоненти і не покладатися на третю сторону, щоб їх надати.

Все йде нормально.

Хоча може виникнути невелика заминка.

Дозвольте мені пояснити.

Можливо, ви смутно усвідомлюєте, що Маск висміював використання патентів, форми інтелектуальної власності (ІВ). Його нещодавні твіти показали, що IP, очевидно, для слабких. Це означає, що IP, здається, використовується в основному для цілей тролінгу. Крім того, мається на увазі те, що інтелектуальна власність, наприклад патенти, уповільнює або перешкоджає розвитку технологій.

Враховуючи цю філософію, яка походить від верхівки Tesla, ми повинні поставити собі кілька розумних запитань.

Чи буде Tesla шукати патенти на власні компоненти Bumble C і Optimus?

Якщо так, то чи не означає це, що Тесла і Маск «слабкі» в тому ж сенсі, що Маск висміював інших, які прагнуть захисту ІВ?

Якщо вони не прагнуть отримувати патенти на роботизовані системи, можна дивуватися, як вони почуватимуться, якщо інші почнуть розробляти крокуючих роботів подібної природи, і зроблять це, імітуючи або відверто копіюючи Bumble C та Optimus. Чи будуть Тесла та Маск законно переслідувати тих, хто це робить, стверджуючи, що компоненти є комерційною таємницею та охороняються?

Або вони можуть запатентувати технологію, а потім зробити патенти відкрито доступними для всіх бажаючих? Це вважалося важливим засобом уможливлення впровадження електромобілів. Чи те саме стосується робототехнічних систем?

Можливо, ще більше тривоги для Тесли та Маска викличе можливість того, що вони порушують інші робототехнічні системи, які мають патенти та встановлені IP-адреси.

Можна було б обґрунтовано припустити, що в умовах шаленого темпу розробників та інженерів ШІ в Tesla вони не обов’язково ретельно та уважно проводять патентний пошук, щоб переконатися, що їхні компоненти не порушують існуючі патенти. Цілком ймовірно, що це, ймовірно, не на думці, або навіть якщо обговорюватиметься, можливо, поки що відкладено. Навіщо зволікати зараз, коли ви можете просунути потенційну юридичну проблему ІВ далі? Якщо ви зіткнулися з жорсткими термінами, ви поки що обходитесь і припускаєте, що хтось інший, можливо, через багато років заплатить ціну за поточне нехтування.

У сфері ШІ існує безліч патентів. Існує безліч візантійських патентів на роботизовані руки, роботизовані руки, роботизовані ноги, роботизовані ноги, роботизовані торси, роботизовані голови тощо. Це легальне мінне поле. Я був свідком-експертом у справах щодо прав інтелектуальної власності у сфері штучного інтелекту, і існує величезна кількість патентів, а також їхній характер, який часто збігається, що представляє передбачувану частину території.

Для тих із вас, хто володіє патентами на робототехнічні кінцівки та інші компоненти крокуючої робототехніки, перейдіть до їх викопування. Почніть уважно дивитися на Bumble C і Optimus. Поставте своїх юристів з інтелектуальної власності в чергу. З кожним днем ​​для вас будується золота жила, яка, якщо вона покладається на вашу IP, стане доброю виграшею від гігантської компанії з неймовірно глибокими кишенями.

Ви можете відмахнутися від смердючого ярлика «слабкого», поки ви будете блискучими по дорозі до банку.

ЗАКОНИ ПРО ШІ ТА ВІДПОВІДНІ ЮРИДИЧНІ УСКЛАДНОСТІ, ЯКІ ПОЧАТКУЮТЬ ІСНУВАННЯ

Вам може бути цікаво, для чого використовуватимуться Bumble C і Optimus. Оскільки Bumble C, схоже, не підходить як швидкий і брудний прототип, давайте просто зосередимося на Optimus, який вважається поточним і майбутнім роботом, що викликає великий інтерес у Tesla.

Для чого буде використовуватися Optimus?

За словами Маска, він припустив, що з такими роботами нам більше ніколи не потрібно буде піднімати руку чи виконувати будь-яку роботу або фізичну роботу. Удома крокуючий робот зможе виносити сміття, класти ваш одяг у пральну машину, складати ваш одяг після того, як вийняли його з сушильної машини, готувати вам вечерю та виконувати всілякі домашні справи.

На робочому місці Маск припустив, що такі роботи можуть виконувати роботу на конвеєрі. Крім роботи на заводах або в потенційно важких умовах роботи, ці роботи можуть працювати і в офісі. Під час презентації короткий відеоролик офісного середовища показав, як робот переміщує коробку, ніби доставляє коробку людині, яка працює в офісі. Нас навіть подражнили коротке відео, на якому робот поливає рослину в офісі.

Я впевнений, що кожен із нас може легко придумати перелік способів використання крокуючого робота, який має набір функцій, подібних до людських.

У мене є для вас родзинка.

Уявіть, що Optimus використовується вдома. Робот виконує домашні справи. Ми б природно припустили, що Optimus матиме певну форму розмовної інтерактивності, можливо, як Alexa або Siri. Без будь-яких життєздатних засобів зв’язку з роботом вам було б важко комфортно переміщати його у вашому домі серед вас, вашої другої половинки, ваших дітей, домашніх тварин тощо.

Для тих, хто дивиться онлайн, ми, здається, не були знайомі з будь-якою демонстрацією будь-якої розмовної чи розмовної здатності Optimus. Також не було жодної ознаки можливостей обробки.

Натомість ми лише побачили, як Бамбл Сі ледве зміг вийти на сцену (хисткий, невпевнений і, я припускаю, спричинив зупинку серця в інженерів, коли вони молилися богам робототехніки, щоб ця проклята штука не розвалилася і не збожеволіла) . Оптимуса штовхнули або зачепили на сцену. Ходіння не відбулося. Нам повідомили, що нібито Optimus на порозі здатності ходити.

Класичний демо-додж і неймовірний, включаючи те, що, здається, більшість звичайних ЗМІ підхопили його.

Танцюючим роботам скрізь, напевно, було соромно за те, що сталося на тій сцені.

Але я відволікся. Повернемося до Optimus, який служить крокуючим роботом у повсякденному домі, і припустімо, що в цій садибі є діти.

Нещодавно в Каліфорнії був прийнятий новий закон, відомий як Каліфорнійський закон про дизайн, який відповідає віку (COPPA). Я збираюся обговорювати цей новий закон у своїй колонці, і ви можете посперечатися, що інші штати скоро приймуть подібні закони. Це закон, про який повинен знати кожен, хто розробляє штучний інтелект (хорошо, будь-хто, хто розробляє будь-який вид обчислювальної техніки, яка може контактувати з дітьми, також повинен знати про це).

Суть закону полягає в тому, що будь-яка система, до якої можуть отримати доступ діти, повинна відповідати положенням щодо забезпечення конфіденційності дитини. Різноманітна інформація про персонал, яку система AI або будь-яка обчислювальна система може зібрати про дитину, має відповідати конфіденційності даних дітей і правам дітей. Уточнено штрафи та інші юридичні наслідки за недотримання закону.

Якщо Optimus використовується в домогосподарстві, де є або можуть бути діти, робот може легко збирати особисту інформацію про дитину. Усні висловлювання можуть бути записані. Місцезнаходження дитини може бути записано. Робот міг виявити будь-яку детальну інформацію про дитину.

Чи думала команда Optimus про те, як дотримуватися цього нового закону та безлічі нових законів щодо ШІ, що з’являються?

Знову ж таки, це, ймовірно, мало в списку пріоритетів. Однак я хочу сказати, що цей закон та інші закони, пов’язані зі штучним інтелектом, з’являються як лісова пожежа. Крокуючий робот на основі ШІ збирається зайти в осине гніздо законів. Tesla може або запросити адвокатів для цього зараз і передбачити, що юридично виникне, сподіваючись, намагаючись запобігти потраплянню в юридичну трясовину та надавши вказівки розробникам та інженерам штучного інтелекту, або зробити звичайну технологічну річ і просто почекати та подивитися, що станеться (зазвичай лише після того, як загруз у юридичному болоті).

Заплатіть мені зараз або заплатите мені пізніше.

Технарі часто не замислюються над тим, щоб заплатити мені зараз, і в підсумку їх застають зненацька та платять пізніше.

ЕТИКА ШІ ТА ПРОБЛЕМА РОБОТОТЕХНІКИ

У попередніх колонках я розповідав про різні національні та міжнародні спроби розробити та прийняти закони, що регулюють ШІ, див. посилання тут, наприклад. Я також охопив різні принципи та вказівки щодо етики штучного інтелекту, які визначили та прийняли багато країн, включаючи, наприклад, зусилля Організації Об’єднаних Націй, такі як набір етики штучного інтелекту ЮНЕСКО, який прийняли майже 200 країн, див. посилання тут.

Ось корисний ключовий список етичних критеріїв або характеристик систем штучного інтелекту, які я раніше детально досліджував:

• прозорість
• Справедливість і справедливість
• Незлочинність
• Відповідальність
• Конфіденційність
• Вигода
• Свобода і автономія
• Довіряйте
• Sustainability
• Гідність
• Солідарність

Ці принципи етики штучного інтелекту повинні щиро використовуватися розробниками штучного інтелекту, а також тими, хто керує розробкою штучного інтелекту, і навіть тими, хто в кінцевому підсумку розміщує та підтримує системи штучного інтелекту.

Усі зацікавлені сторони протягом усього життєвого циклу розробки та використання штучного інтелекту враховуються в рамках дотримання встановлених норм етичного штучного інтелекту. Це важливий момент, оскільки звичайне припущення полягає в тому, що «лише кодери» або ті, хто програмує ШІ, підлягають дотриманню понять етики ШІ. Щоб розробити та запровадити штучний інтелект, потрібне село, і для цього все село має бути обізнаним і дотримуватися принципів етики штучного інтелекту.

Чи приділяли Тесла та Ілон Маск серйозну та присвятну увагу етичним розгалуженням ШІ крокуючого робота?

Судячи з того, що було сказано на презентаціях, мабуть, поки цьому питанню приділено лише поверхневу увагу.

Під час запитання та відповіді Маска запитали, чи вони розглядали загальні аспекти того, що крокуючі роботи зроблять із суспільством. Ми вже всі знаємо, що Маск неодноразово заявляв, що розглядає штучний інтелект як екзистенціальну загрозу для людства, дивіться моє висвітлення на посилання тут. Можна було б припустити, що якщо хтось створює роботів, які будуть ходити серед нас, і він очікує, що, можливо, мільйони і мільйони цих роботів будуть продані для громадського та приватного використання, це, природно, піднімає проблеми етики штучного інтелекту людства.

Відповідь на запитання, схоже, натякала на те, що зусилля, які зараз ведуться, надто передчасні, щоб особливо досліджувати можливості етики ШІ.

Це ще одна класична і сумна відповідь технарів.

Багато розробників та інженерів штучного інтелекту вважають етику штучного інтелекту запізнілою темою. Немає необхідності плутати існуючі зусилля ШІ. Просто продовжуйте рухатися вперед. Колись, звичайно, можливо, Етика штучного інтелекту підніме голову, але до того часу вона йде головами вниз і повним ходом.

На жаль, прямий підхід до етичного штучного інтелекту є поганою новиною для всіх. Щойно штучний інтелект або, в даному випадку, роботизована система просунеться далі по шляху розвитку, стане все важче та дорожче впроваджувати принципи етики штучного інтелекту в систему. Це недалекоглядний спосіб вирішення етичних міркувань ШІ.

Припустимо, вони чекають, поки крокуючий робот вже розміститься в домівках людей. На цьому етапі ймовірність заподіяння шкоди людям зросла, і, окрім потенціалу завдати шкідливої ​​шкоди, фірма, яка чекала до останнього етапу, опиниться перед величезними судовими позовами. Можна посперечатися, що будуть поставлені важкі запитання про те, чому ці типи етичних аспектів штучного інтелекту не були розглянуті належним чином і чому вони не розглядалися раніше в життєвому циклі розробки штучного інтелекту.

Той факт, що Маск неодноразово порушував питання етики штучного інтелекту під час обговорення екзистенційних ризиків штучного інтелекту, робить цей удаваний недогляд або відсутність поточної стурбованості етичним штучним інтелектом на його крокуючих роботах ще більш оманливим питанням.

Обізнаність Маска особливо бентежить це.

Деякі топ-менеджери навіть не знають, що існують етичні питання штучного інтелекту, з якими потрібно зіткнутися — я палко обговорював важливість створення компаній етичними радами штучного інтелекту, див. посилання тут.

ЗАКОНИ ШІ ДЛЯ САМОСТІЙНОГО КЕРУВАННЯ ДЛЯ КРОДУЮЧИХ РОБОТІВ РІЗНІ

Раніше я згадував, що існуючі Tesla, які використовують автопілот і FSD, мають другий рівень автономності.

Це зручно для Тесли та Маска, тому що вони можуть чіплятися за ідею, що оскільки Рівень 2 вимагає активного перебування людини-водія за кермом, майже все, що робить система самостійного керування штучним інтелектом, уникає доказів з точки зору відповідальності. Тесла і Маск можуть просто наполягати на тому, що людина-водій відповідає за керування.

Зауважте, що це не стосується рівнів 4 і 5, коли автовиробник або оператор автопарку, або хтось інший повинен буде втрутитися в якості відповідальної сторони за дії безпілотного автомобіля.

Також зауважте, що це твердження про відповідальність водія-людини можна розтягнути лише на Рівень 2 і Рівень 3, і незабаром ми побачимо судові справи щодо того, як далеко це може зайти.

Під час презентації було висловлено кілька зауважень про те, що роботу над безпілотними автомобілями зі штучним інтелектом можна легко перенести або повторно застосувати до царства крокуючих роботів. Це певною мірою правда. Хоча це також дещо оманливе або в деяких випадках небезпечне зображення.

Ми можемо почати з очевидного перенесення, пов’язаного з обробкою зору на основі ШІ. Безпілотні автомобілі використовують відеокамери для збору зображень і відео навколишнього середовища навколо автомобіля. Використання ML/DL/ANN зазвичай використовується для обчислювального пошуку шаблонів у зібраних даних. Ви б зробили це, щоб визначити, де проїжджа частина, де інші автомобілі, де будівлі тощо.

Теоретично ви можете повторно використовувати ті самі або схожі ML/DL/ANN, щоб спробувати зрозуміти, з чим стикається крокуючий робот. У домогосподарстві система роботогляду сканувала б кімнату. Зібрані відео та зображення можна обчислити, щоб визначити, де двері, де вікна, де диван, де люди тощо.

Здається розумним.

Але тут є поворот.

Для безпілотних автомобілів рівня 2 керування залежить від людини-водія. Юридична відповідальність за те, що робить автомобіль, зазвичай лежить на плечах людини-водія. У випадку крокуючого робота такий захист неможливий.

Іншими словами, крокуючий робот у вас вдома. Припустімо, що ви як дорослий не працюєте з роботом на відстані. Робот вільно пересувається по дому на основі будь-якого штучного інтелекту, налаштованого в крокуючому роботі.

Робот натикається на акваріум. Чаша з грюком падає на землю. Дитина поруч сумно порізана склом, що розлетілося. На щастя, з дитиною все гаразд, порізи незначні.

Хто відповідальний за те, що сталося?

Насмілюсь сказати, що ми всі погодимося, що робот «винен» у тому, що врізався в акваріум (за інших рівних умов). Тривають бурхливі дебати щодо того, чи збираємося ми надавати штучному інтелекту статус юридичної особи і, отже, потенційно мати можливість вважати ШІ відповідальним за погані вчинки. Я висвітлив це на посилання тут.

У цьому випадку чи сценарії я не хочу зациклюватися на питанні про те, чи має цей ШІ статус юридичної особи. Я хочу сказати, що ні. Ми припустимо, що цей ШІ не досяг такого рівня автономії, який, на нашу думку, заслуговує на статус юридичної особи.

Відповідальна сторона, здавалося б, виробник крокуючого робота.

Що вони зробили, щоб розробити робота, щоб він не натикався на речі? Чи можна було передбачити, що робот може це зробити? Чи сталася помилка всередині робота, яка призвела до цієї дії? Безперервно ми можемо юридично поставити під сумнів те, що відбулося.

Чи усвідомили Тесла та Маск, що законне мовчання, яке вони роблять зі своїми автомобілями, навряд чи перенесеться на роботів, яких вони прагнуть створити?

Крокуючі роботи - це як би інша тварина.

Знову виникають правові та етичні наслідки.

ЮРИДИЧНІ ВИКРИТТЯ ДЛЯ СПІЛКУВАННЯ КОМАНД

Презентації припустили, що багато кросоверів від команди автономного водіння ШІ відбувається з командою крокуючих робототехніки. Згідно з моїми попередніми вказівками, це здається розумним. Багато аспектів апаратного та програмного забезпечення мають схожість, і ви можете отримати подвійний обов’язок, коли зможете. Крім того, ми сподіваємося, що це може пришвидшити робототехніку, оскільки вона несамовито намагається зрушити з мертвої точки та наздогнати бажані декларації Маска.

Хоча є поворот.

Здається, завжди є поворот, але, знову ж таки, життя здається таким.

Припустімо, що команда штучного інтелекту, що керує автомобілем, виснажена, намагаючись допомогти команді крокуючих робототехніки. Ми точно можемо передбачити, що це може статися легко. Ось вони зараз, намагаючись досягти все більшого й вищого рівня автономності автопілота та FSD, а тим часом їх втягують у крокуючу команду робототехніки, яка мчить попереду їхніх зусиль.

Наскільки ця подвійна увага відволікає або перевантажує команду спеціалістів із штучного інтелекту, і чи вплине це на амбіції щодо самостійного керування?

І не тільки амбіції, але ви можете логічно передбачити, що вигоряння команди автономного керування може призвести до помилок, які проникають у систему самостійного керування. Можливо, вони не проводили потрійну перевірку, яку зазвичай робили. Можливо, вони отримали відгук від команди крокуючих робототехніків і змінили код самостійного керування, хоча ця зміна, можливо, не була настільки добре перевірена та добре виміряна, як мала б бути.

Коротше кажучи, будь-хто, хто хоче подати до суду на Tesla через безпілотне керування, тепер матиме чималу можливість стверджувати, що будь-які проблеми, які можуть бути заявлені чи виявлені в Autopilot або FSD, не було б там, якби рішення керівництва було прийнято для поєднання обох в іншому випадку розділіть команди на спільну роботу.

Уявіть, як це може виглядати для журі.

Команда, що займається безпілотним керуванням, розвивалася й повністю зосередилася на самоуправлінні. Потім вони похитнулися до цієї нової крокової робототехніки. Стверджується, що це призвело до помилок і упущень на стороні самостійного керування. Компанія також хотіла мати свій торт і глазур, але в результаті торт розколовся, і частина глазурі впала на підлогу.

Ми не знаємо, чи з’єднання створило такі вразливості. Це просто можливість. Для кмітливих юристів, які хочуть переслідувати Tesla на боці безпілотних автомобілів, відкриваються двері, щоб забезпечити правові можливості.

ВИСНОВОК

День Tesla AI Day 2022 викликав багато закочувань.

Наприклад, Маск зазначив, що крокуючі роботи вироблятимуть приблизно вдвічі більшу економічну продукцію, ніж люди. Він навіть підтвердив це твердження, сказавши, що небо є межею продуктивності.

Де остаточні цифри, які можуть прозоро висвітлити дворазове або N-кратне підвищення продуктивності?

Я не кажу, що два чи N-рази неправильні. Проблема полягає в тому, що такі необґрунтовані заяви, які виникають із повітря, в іншому випадку є чистою гіперболою, доки не буде надано певного аргументу на підтримку цих заяв. Особливо тривожним аспектом є те, що репортери повідомляють, що він зробив такі заяви, і ці заяви, у свою чергу, поступово повторюватимуться і повторюватимуться, доки це не стане «фактичним», і ніхто не зрозуміє, що це було вигадано, можливо, ненавмисно.

Іншою приголомшливою заявою було те, що Маск сказав, що крокуючі роботи можуть коштувати близько 20,000 XNUMX доларів.

По-перше, якщо це виявиться так, це чудово, враховуючи ймовірну вартість компонентів і витрати, пов’язані з розробкою та впровадженням крокуючих роботів, а також, імовірно, потребу в непоганому прибутку. Як він придумав число? Тому що це добре звучить чи тому, що воно базується на серйозному аналізі?

Ми також ще не знаємо, і не було обговорення щодо обслуговування, пов’язаного з цими крокуючими роботами. Обслуговування автомобіля зовсім інше, ніж обслуговування крокуючого робота. Як робот дістанеться до будь-якого місця обслуговування, враховуючи громіздкі розміри та вагу? Чи доведеться людям з обслуговування приходити до вас додому, щоб виконувати технічне обслуговування? Скільки буде коштувати обслуговування? Яка очікувана частота технічного обслуговування буде потрібно?

Припустімо, що вартість становить 20,000 20,000 доларів США або близько до цієї цифри. Я впевнений, що для Маска 20,000 XNUMX доларів виглядають як кишенькові гроші. Скільки людей могли дозволити собі купити одного такого крокуючого робота за ціною XNUMX XNUMX доларів? Смію сказати, не багато. Ви можете спробувати стверджувати, що це вартість автомобіля (автомобіля нижчого класу). Але автомобіль, здається, має набагато більше користі, ніж крокуючий робот.

Маючи автомобіль, ви можете дістатися до роботи та заробити гроші, щоб оплатити рахунки. Ви можете скористатися автомобілем, щоб поїхати за продуктами. Автомобіль дозволить вам дістатися до лікарні або здійснити подорож заради розваги. Здається, крокуючий робот, який поливає ваші рослини у вашому домі або застилає для вас простирадла, не має такої ж цінної користі.

Щоб уточнити, так, було б багато людей з вищим рівнем доходу, які могли б дозволити собі мати крокуючого робота у своєму домі. У цьому сенсі певний ринок для крокуючих роботів точно буде. Питання в тому, чи буде це справедливим у нашому суспільстві. Чи є ті, хто може дозволити собі ходячих роботів, і ті, хто не може?

Ми також можемо обґрунтовано сумніватися, що крокуючі роботи отримають таке ж відчуття суспільної поваги та щирої підтримки, які отримують електромобілі. Ви можете продавати електромобілі, наголошуючи на тому, що вони допомагають навколишньому середовищу порівняно зі звичайними автомобілями. Уряд також може заохочувати це робити. Щось із цього також стосується крокуючих роботів? Здається, продати важче.

Ще кілька коментарів, і ми поки що закриємо цю дискусію.

Помітне закочування очей на крокуючих роботів тягне за собою відверту антропоморфізацію роботів.

Антропоморфізація стосується зображення штучного інтелекту нарівні з людьми. Людей можна обдурити, подумавши, що штучний інтелект може робити те, що можуть робити люди, навіть навіть перевершуючи те, що можуть робити люди. Ті люди, яких так обдурили, швидше за все, опиниться в жахливій біді. Вони припускатимуть, що ШІ може працювати так само, як і люди.

Коли Bumble C вийшов на сцену, він помахав руками. Махання рукою було саме тим, чого ви очікуєте від людини. Ваша початкова інтуїційна реакція неодмінно буде такою, що крокуючий робот «думав» і зрозумів, що він виходить на сцену перед людьми та камерами. Робот вирішив, що помахати зібранню буде ввічливо і товарисько.

Я запевняю вас, що робот не «думав» жодним способом людського мислення.

Наскільки ми знаємо, був оператор, який стояв десь поблизу або, можливо, працював віддалено, і керував руками робота. У цьому сенсі робот не мав програмного забезпечення, яке керувало б руками.

Припустимо, що є програмне забезпечення, яке керує зброєю. Ймовірно, програмне забезпечення було надзвичайно спрощеним, що після активації піднімало руки, махало, а потім робило це протягом деякого короткого періоду часу. Дуже малоймовірно, що програмне забезпечення складалося з системи обробки зору, яка знімала відеозображення аудиторії, а потім виконувала обчислювальне «обґрунтування» вибору помахати руками робота.

Я хочу сказати, що крокуючий робот махає хибним або оманливим зображенням того, що робот насправді може робити, і це змушує людей вважати, що робот схожий на людину. До речі, я висловлював те саме занепокоєння щодо танцюючих роботів. Це мило і захоплює заголовки, щоб мати махаючих і танцюючих роботів. На жаль, це також перебільшує те, що насправді можуть робити ці роботи.

Називання процесора крокуючих роботів бот-мозком є ​​ще одним прикладом антропоморфізації. Ці процесори не є мозком у розумінні людського мозку. Це неправильне формулювання.

Можливо, ви зараз вигукуєте, що кожен або принаймні багато хто в ШІ використовує антропоморфізацію, щоб спробувати виділитися та зробити так, щоб їхній ШІ отримав похвалу та увагу. Так, я б з вами погодився. Чи перетворює це дві помилки на правду? Я так не думаю. Це все ще поганий підхід, і нам потрібно спробувати згорнути або принаймні знизити його популярність. Правда, це все одно, що штовхати здоровенну бриллу на крутий нескінченний пагорб.

Тепер давайте зробимо останнє зауваження по цій темі.

Ілон Маск раніше заявляв про те, куди рухається штучний інтелект: «Зверніть увагу, штучний інтелект набагато небезпечніший за ядерну зброю… чому ми не маємо регуляторного нагляду?» Подібні заяви він зробив під час дня Tesla AI Day.

Я згоден з ним щодо регуляторного нагляду, хоча я додаю невелике уточнення, що це має бути правильний вид регуляторного нагляду. Я взяв завдання регуляторного нагляду щодо штучного інтелекту, який дуже не відповідає ціні, як описано на посилання тут.

Можна сподіватися, що Тесла та Маск не тільки підтримають появу розумних і належних законів про ШІ, але вони також будуть першими, хто продемонструє важливість як м’яких законів, таких як Етика ШІ, так і жорстких законів, які є в книгах.

Як говорить нам мудрість, наші слова служать світильником, який скеровує наші ноги та виковує світло для майбутнього шляху.

Це охоплює речі.