Паралельно з прогресом штучний інтелект (ШІ) все більше розвивається, і ризик так званого «інбридингу» в генеративних системах ШІ стає небезпекою, яка давно поширена серед популяцій людей і домашніх тварин.
Ця стаття проллє світло на концепцію інбридингу в світлі генеративного ШІ та те, як інбридинг може бути пов’язаний із майбутнім контенту, створеного ШІ.
Розуміння генеративного штучного інбридингу Генеративні системи штучного інтелекту, такі як великі мовні моделі (LLM), в основному навчаються на комплексних наборах даних із текстового, візуального та аудіовмісту, доступного в Інтернеті. Спочатку набір даних включав переважно предмети, створені людьми, наприклад літературу, статті та твори мистецтва. Однак із розвитком генеративних інструментів штучного інтелекту все більше контенту в Інтернеті створюється самим ШІ.
Ця зміна викликає занепокоєння щодо якості та різноманітності наборів даних, які використовуються для навчання майбутніх систем ШІ. З розвитком контенту, створеного штучним інтелектом, очікується, що багато майбутніх поколінь моделей штучного інтелекту навчатимуться на наборах даних, які представляють не людський контент, а матеріал, створений штучним інтелектом.
Наслідки генеративного штучного інбридингу багатогранні.
Навпаки, продовження навчання системою штучного інтелекту з дедалі більшої кількості однорідних наборів даних може призвести до зниження креативності та оригінальності результатів, створених штучним інтелектом.
Якщо цей процес повторюється, тобто копіюється з копії, протягом кількох поколінь, якість результату погіршується, і результати ризикують стати менш захоплюючою роботою та менш, можливо, відображати те, що ми вважаємо творчим результатом людини. . Із зростанням вмісту, створеного ШІ, навченого на інбредних наборах даних, такі проблеми можуть посилитися.
Якщо навчальні набори даних недостатньо різноманітні, то розроблені системи штучного інтелекту будуть служити лише для посилення та збільшення упереджень, наявних у створеному штучним інтелектом контенті, тим самим ще більше підриваючи надійне використання створеного штучним інтелектом контенту як джерела інформації. Крім того, відсутність різноманітності в навчальних даних може обмежити можливість розробки систем штучного інтелекту, які могли б правильно розуміти та представляти широкий спектр людського досвіду та перспектив. Це може обмежувати прогрес у різних сферах застосування ШІ, таких як обробка природної мови, генерація контенту та системи прийняття рішень.
Вирішення проблеми генеративного штучного інбридингу
Перш за все, це справжній ризик, особливо інбридинг генеративних технологій ШІ. Тим не менш, це зобов’язує дослідників, розробників і навіть політиків діяти проактивно, забезпечуючи використання різноманітних і репрезентативних наборів даних як головний пріоритет під час навчання системи штучного інтелекту, інтегруючи механізми, які зможуть виявляти та зменшувати упереджень у створеному штучним інтелектом контенті та забезпеченні ефективної міждисциплінарної співпраці при розгляді та забезпеченні етичних і суспільних наслідків створення ШІ.
Вони повинні додатково сприяти необхідності відкритості та підзвітності при розгортанні систем штучного інтелекту та вимагати, щоб користувачі контенту, створеного штучним інтелектом, інформували користувачів про обмеження та упередження. Таким чином, усі зацікавлені сторони можуть активно прагнути до співпраці у використанні потужності генеративного ШІ, одночасно пом’якшуючи ризики, пов’язані з інбридингом у розробці ШІ.
Концепція інбридингу в генеративному штучному інтелекті є великим майбутнім викликом для розробки та розгортання систем штучного інтелекту. Це допоможе їм переконатися, що відповідальний та етичний розвиток удосконалення технологій для суспільства супроводжується розумінням наслідків і способів ефективного вдосконалення генеративного штучного інбридингу.
Джерело: https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/