AI: війна, яка ось-ось вибухне, буде не такою, як ми очікуємо...

Образи, якимось чином нав’язані більшістю науково-фантастичних оповідей, представляють нам світ, де людство рано чи пізно зіткнеться зШтучний інтелект. Конфлікт вибухне, як тільки ШІ усвідомить себе і вирішить знищити нас або знайти спосіб контролювати нас.

Якщо ця перспектива реалістична (а на цю тему можна було б багато обговорювати), війна, яка нас чекає, виглядає досить віддаленою в часі, враховуючи абсолютну відсутність будь-якої обізнаності в нинішніх генеративних системах. Тож поки що можемо спокійно спати. Чи ні?

«Положення про ШІ для військових цілей терміново потрібне»
Російсько-українська війна: чи змінює штучний інтелект?
Змова, фейкові новини та ксенофобія: небезпечна цифрова суміш

Справжні небезпеки нинішнього штучного інтелекту

По темі все ще багато плутанини Штучний інтелект. Плутанина, яка, як боляче казати, виникає в хорошому мистецтві, підігрівається колегами-журналістами, які з ентузіазмом пишуть про нього, але часто не настільки підготовлені до розуміння його справжньої природи, потенціалу та ризиків.

Така плутанина також заохочується нашою природною схильністю проектувати себе на будь-яку зовнішню сутність, будь то інша людина, тварина чи, як у цьому випадку, програмний об’єкт.

Звідси наші труднощі в розумінні того, що, очевидно, розумна поведінка взагалі не передбачає справжнього усвідомлення.

Таким чином, підбадьорювані занадто великою кількістю заголовків у газетах широкого профілю, ми турбуємося про проблеми, які все ще залишаються далеко в часі, але ми не бачимо або недооцінюємо ті, які вже безпосередньо стосуються нас сьогодні.

Як завжди там технологія його можна застосовувати так, щоб допомогти людям, але також і таким чином, щоб завдати їм шкоди.

На соціальному рівні, наприклад, штучний інтелект можна використовувати для оптимізації процесів і послуг, таких як дорожній рух у містах або бюрократичні послуги та служби охорони здоров’я.

Або це може допомогти вчителям підготувати персоналізовані уроки чи тести на основі характеристик і особливостей кожного учня.

На особистому рівні це може допомогти кожному з нас краще організувати роботу та час, керуючи найнуднішими або повторюваними частинами.

Або це може допомогти нам краще проявити нашу творчість, генеруючи зображення, музику чи відео, дотримуючись наших інструкцій.

Добре використовуваний штучний інтелект повинен доповнювати, а не замінювати нашу діяльність.

Але оскільки поточні генеративні системи, здатні виробляти текст, зображення та відео, базуються на величезних базах даних, отриманих переважно з Інтернету, вони часто відображають наші «упередженість» і, перш за все, вони працюють на основі статистичних середніх значень.

Оскільки створюється все більше вмісту Штучний інтелект самих по собі ризик полягає в тому, що створюються середні із середніх з середніх із дедалі відчутнішим зниженням.

Однак це проблеми, з якими можна зіткнутися і які можна вирішити: найбільший ризик, про який я ще не говорив, це людський фактор.

Фотогалерея, мультфільми, які виганяють страхи Інтернету
Інновації та журналістика: часто складне співіснування
Штучний інтелект (також) є революцією в редагуванні фотографій

Сила штучного інтелекту та майбутня війна

Досі я мав справу з проблемами, які вже відомі і, зрештою, можуть бути вирішені без зайвого хвилювання. Добре (або погане) приходить зараз.

Уявімо собі аШтучний інтелект добре навчений, здатний реалістично відтворити будь-який голос. Такі системи вже існують.

Давайте поєднаємо його з іншим штучним інтелектом, здатним створювати достовірні відеоролики за участю реальних людей. Ці системи також існують і в деяких випадках вже використовуються.

Це те, що ми можемо створити».глибокий фейк" (абсолютно фальшиві, але цілком достовірні відео) з надзвичайною простотою, на шкоду політичним опонентам, ворожим країнам або просто людям, які нам не подобаються.

Тож ми створюємо тисячі (ні, десятки тисяч) чат-ботів, які видають себе за справжніх людей, зареєструйтесь на найпопулярніші соціальні мережі і вони починають ділитися відео, створеним для наклепу, руйнування кар’єри опонентів або створення якомога більшого хаосу у ворожій країні, можливо, під час виборів.

Так народжується війна за правду, і всі ми зараз ризикуємо її програти.

І забудьте про останні американські вибори, які, на думку деяких аналітиків, були спотворені пропагандою, «прищепленою» ззовні (читай: Російської Федерації).

Порівняно з потенціалом нинішніх систем і тих, які можна досягти в середньому майбутньому, будь-які спроби спотворити новини листопада 2020 року були дитячою грою.

Так котять барабани Першої світової війни ШІ
Від піцині до соціальних мереж: так мафія розмножується в мережі
Битва при Мораті стане найбільшим цифровим об'єктом у світі

Галюцинації, що використовуються як нетрадиційна зброя

Le Штучний інтелект Генеративні люди мають внутрішню ваду своїх принципів діяльності: вони страждають від галюцинацій. Останні версії, такі як ChatGPT-4, намагаються обмежити та виправити цю тенденцію з більшим чи меншим успіхом.

Цей «галюцинаторний потенціал» також може бути використаний у своїх інтересах користувачами з недобрими намірами, щоб поширювати очевидно правдиві новини, які ґрунтуються на більш-менш явних переконаннях певних політичних груп, зміцнюючи їх «упередженість”.

Усі вони мають «вогневу міць», яка значно перевершує ту, яка була ще кілька років тому.

Добре організована група (можливо, підтримана під столом поступливим урядом) використає вже відомі вразливі місця значної більшості комп'ютери в Інтернеті для оптимізованих атак і контролюйте мільйони пристроїв.

Це буде зроблено, використовуючи їх по черзі як сервери для створення фейків соціальні акаунти нелегко відрізнити від автентичних.

Потім фейкові облікові записи поширювали тези та новини, спрямовані на зміцнення переконань вищезгаданих груп.

І єдиний спосіб протистояти таким атакам – це… використовуватиШтучний інтелект.

Штучний інтелект і конфлікти в збірці неопублікованих есеїв
Актори на страйку: захист автентичності та креативності від ШІ
Відео, швейцарсько-бургундське зіткнення оцифровано та збережено

Криза і можливості такої еволюції

Хто переможе у майбутній війні?

Le Штучний інтелект на службі соціальних диверсантів чи тих, кому доручено нас захищати?
На даний момент ніхто не може сказати.

Ми можемо бути впевнені в одному: лише добре підготовлена ​​країна (або, ще краще, федерація країн), населення якої має навички критичного мислення та знання цифрових засобів, зможе протистояти цим викликам.

Необхідно, щоб він не сприймав Штучний інтелект як диво чи загрозу, а навчився розуміти його переваги, потенціал і проблеми за допомогою далекоглядного класу менеджменту та справжньої уваги до етичних інновацій та технологія.

Ми повинні почати звідси якнайшвидше...

Якщо штучний інтелект – найкращий друг наших дітей
Новомовний Facebook (або «штучна деменція»)
Фотогалерея, столи роботи Louis Braun 1000 кв