Як Пентагон бере участь у реалізації масштабного «Плану дій» Трампа в галузі штучного інтелекту. Американський План дій у галузі штучного інтелекту містить 19 рекомендацій, які стосуються Міністерства оборони, зокрема, створення «віртуального полігону».
Льотчик 149-ї розвідувальної ескадрильї проводить навчання в комп'ютерній навчальній лабораторії.
«Сполучені Штати ведуть гонку за глобальне домінування в галузі штучного інтелекту». Так починається вступ до Американського плану дій у галузі штучного інтелекту, опублікованого Білим домом. З інших частин документа стає зрозуміло, що головним суперником у цій гонці є Китай, пише Breaking Defense.
Загалом, План дій однозначно позиціонує штучний інтелект як конкуренцію між великими державами, в якій переможець забирає все.
«Той, хто матиме найбільшу екосистему ШІ, встановлюватиме глобальні стандарти ШІ та отримуватиме широкі економічні та військові вигоди, – продовжується у вступі. – « Так само як ми виграли космічну гонку, Сполучені Штати та їхні союзники обов'язково мають виграти цю гонку».
Хоча більшість конкретних пунктів Плану дій стосуються внутрішніх досліджень і розробок, економіки або міжнародної торгівлі, він також містить довгий перелік завдань для Міністерства оборони.
З приблизно 19 «рекомендованих політичних заходів», в яких прямо згадується Міністерство оборони (План дій не є виконавчим наказом і лише «рекомендує» заходи, а не наказує їх), п'ять стосуються внутрішньої роботи самого міністерства. Всі інші надають Пентагону важливу або навіть провідну роль у встановленні стандартів та координації зусиль виконавчої гілки.
Особливо цікавим є заклик до DARPA, спеціалізованого підрозділу Пентагону, що займається високоризиковими, але високоприбутковими дослідженнями та розробками, очолити міжвідомчу «програму розвитку технологій» для вирішення фундаментальної проблеми передового штучного інтелекту. Навіть ті, хто його будує, насправді не розуміють, як він працює.
Це особливо актуально для генеративних ШІ, таких як великі мовні моделі, які можуть узагальнювати великі масиви даних і навіть генерувати дивовижні висновки, але також часто «галюцинують» і видають хибні результати непередбачуваним чином.
«Технологи знають, як працюють LLM на високому рівні, але часто не можуть пояснити, чому модель видала саме такий результат, – зазначається в Плані дій. – Ця непередбачуваність... може ускладнити використання передових технологій штучного інтелекту в обороні, національній безпеці або інших сферах, де на кону стоїть життя людей». (Можна стверджувати, що це робить GenAI каверзним інструментом, якому важко довіряти навіть у випадках, коли ризики менші, як попереджає недавній польовий посібник Корпусу морської піхоти).
На додаток до програми під керівництвом DARPA, цей комплекс заходів під назвою «Інтерпретованість, контроль та надійність ШІ» також вимагає від Міністерства оборони США координувати з Міністерством енергетики, Міністерством торгівлі, Міністерством внутрішньої безпеки та іншими відомствами проведення «хакатонів ШІ», які, по суті, є відкритими запрошеннями зовнішнім експертам для проведення (неруйнівних) атак на їхні системи та повідомлення про свої висновки.
Міністерство оборони почало застосовувати цей підхід у рамках конкурсу «Зламай Пентагон» ще в останній рік адміністрації Обами.
Інша ініціатива Пентагону, яка просувається в сьогоднішньому плані Трампа, використовує слоган епохи Байдена «Відповідальний ШІ». Саме один із попередніх міністрів оборони Трампа, Марк Еспер, офіційно доручив Міністерству оборони дотримуватися переліку етичних принципів, але саме за Байдена чиновники Пентагону розробили на основі цих загальних положень дуже конкретні інтерактивні онлайн-чеклисти для чиновників, які керують програмами ШІ.
І хоча Трамп скасував багато директив Байдена щодо ШІ протягом декількох тижнів після вступу на посаду в січні, ініціатива «RAI» (Responsible AI – Відповідальний ШІ) не тільки вижила, але й, судячи з усього, отримала схвалення Білого дому. Федеральні агентства, «очолювані Міністерством оборони», повинні «продовжувати вдосконалювати рамки, дорожні карти та набори інструментів Міністерства оборони щодо відповідального ШІ та генеративного ШІ», рекомендує План дій щодо ШІ.
План дій також надає Міністерству оборони провідну і навіть видатну роль у багатьох ініціативах з безпеки ШІ. Міністерство оборони повинно очолити міжвідомчі зусилля з «створення нових технічних стандартів для центрів ШІ з високим рівнем безпеки» та оцінки прогресу супротивників у галузі ШІ.
Міністерство оборони повинно підтримати Управління директора національної розвідки у створенні «Стандарту забезпечення ШІ» для розвідувального співтовариства, більшість персоналу якого працює в Міністерстві оборони. Крім того, воно повинно співпрацювати з іншими агентствами з цілої низки питань, – від стимулювання вітчизняного високотехнологічного виробництва до вдосконалення експортного контролю.
Що стосується п'яти рекомендацій щодо модернізації самого Міністерства оборони, то, мабуть, найцікавішою – хоча й нечіткою – є рекомендація «створити віртуальний полігон для випробування штучного інтелекту та автономних систем».
Незрозуміло навіть, чи це буде реальна випробувальна база, чи якийсь суперсимулятор у стилі «Матриці»: слово «віртуальний» у назві означає, що все відбувається в Інтернеті, тоді як заклик оцінити «географічні... вимоги, необхідні для такої бази», наводить на думку, що може існувати фізичне місце розташування. Білий дім не відразу відповів на запит про роз'яснення.
Міністерство оборони також має завдання перетворити свої військові академії на «центри досліджень у галузі штучного інтелекту», підвищити кваліфікацію своїх співробітників та визначити «робочі процеси» – термін, що використовується як для бюрократичних процесів, так і для військового планування – які можна автоматизувати за допомогою штучного інтелекту.
Мабуть, найсумнішим є те, що План дій також передбачає надання Міністерству оборони пріоритетного доступу до хмарних провайдерів та інших обчислювальних послуг, щоб воно могло продовжувати користуватися ними в умовах війни.
Наші інтереси:
Неймовірні можливості застосування штучного інтелекту, який стає інструментом нової форми війн.
Якщо ви помітили помилку, то виділіть фрагмент тексту не більше 20 символів і натисніть Ctrl+Enter
Центром усієї традиційної доктрини безсмертя є спроможність керуватися виключно волею власного духу, без огляду на зовнішні обставини. Встановлення надійного зв’язку зі своїм духовним Я відкриває...
Переможець отримає все: США прагнуть глобального домінування у сфері ШІ – План дій
Світ:
Як Пентагон бере участь у реалізації масштабного «Плану дій» Трампа в галузі штучного інтелекту. Американський План дій у галузі штучного інтелекту містить 19 рекомендацій, які стосуються Міністерства оборони, зокрема, створення «віртуального полігону».
25091302.jpg
«Сполучені Штати ведуть гонку за глобальне домінування в галузі штучного інтелекту». Так починається вступ до Американського плану дій у галузі штучного інтелекту, опублікованого Білим домом. З інших частин документа стає зрозуміло, що головним суперником у цій гонці є Китай, пише Breaking Defense.
Загалом, План дій однозначно позиціонує штучний інтелект як конкуренцію між великими державами, в якій переможець забирає все.
«Той, хто матиме найбільшу екосистему ШІ, встановлюватиме глобальні стандарти ШІ та отримуватиме широкі економічні та військові вигоди, – продовжується у вступі. – « Так само як ми виграли космічну гонку, Сполучені Штати та їхні союзники обов'язково мають виграти цю гонку».
Хоча більшість конкретних пунктів Плану дій стосуються внутрішніх досліджень і розробок, економіки або міжнародної торгівлі, він також містить довгий перелік завдань для Міністерства оборони.
З приблизно 19 «рекомендованих політичних заходів», в яких прямо згадується Міністерство оборони (План дій не є виконавчим наказом і лише «рекомендує» заходи, а не наказує їх), п'ять стосуються внутрішньої роботи самого міністерства. Всі інші надають Пентагону важливу або навіть провідну роль у встановленні стандартів та координації зусиль виконавчої гілки.
Особливо цікавим є заклик до DARPA, спеціалізованого підрозділу Пентагону, що займається високоризиковими, але високоприбутковими дослідженнями та розробками, очолити міжвідомчу «програму розвитку технологій» для вирішення фундаментальної проблеми передового штучного інтелекту. Навіть ті, хто його будує, насправді не розуміють, як він працює.
Це особливо актуально для генеративних ШІ, таких як великі мовні моделі, які можуть узагальнювати великі масиви даних і навіть генерувати дивовижні висновки, але також часто «галюцинують» і видають хибні результати непередбачуваним чином.
«Технологи знають, як працюють LLM на високому рівні, але часто не можуть пояснити, чому модель видала саме такий результат, – зазначається в Плані дій. – Ця непередбачуваність... може ускладнити використання передових технологій штучного інтелекту в обороні, національній безпеці або інших сферах, де на кону стоїть життя людей». (Можна стверджувати, що це робить GenAI каверзним інструментом, якому важко довіряти навіть у випадках, коли ризики менші, як попереджає недавній польовий посібник Корпусу морської піхоти).
На додаток до програми під керівництвом DARPA, цей комплекс заходів під назвою «Інтерпретованість, контроль та надійність ШІ» також вимагає від Міністерства оборони США координувати з Міністерством енергетики, Міністерством торгівлі, Міністерством внутрішньої безпеки та іншими відомствами проведення «хакатонів ШІ», які, по суті, є відкритими запрошеннями зовнішнім експертам для проведення (неруйнівних) атак на їхні системи та повідомлення про свої висновки.
Міністерство оборони почало застосовувати цей підхід у рамках конкурсу «Зламай Пентагон» ще в останній рік адміністрації Обами.
Інша ініціатива Пентагону, яка просувається в сьогоднішньому плані Трампа, використовує слоган епохи Байдена «Відповідальний ШІ». Саме один із попередніх міністрів оборони Трампа, Марк Еспер, офіційно доручив Міністерству оборони дотримуватися переліку етичних принципів, але саме за Байдена чиновники Пентагону розробили на основі цих загальних положень дуже конкретні інтерактивні онлайн-чеклисти для чиновників, які керують програмами ШІ.
І хоча Трамп скасував багато директив Байдена щодо ШІ протягом декількох тижнів після вступу на посаду в січні, ініціатива «RAI» (Responsible AI – Відповідальний ШІ) не тільки вижила, але й, судячи з усього, отримала схвалення Білого дому. Федеральні агентства, «очолювані Міністерством оборони», повинні «продовжувати вдосконалювати рамки, дорожні карти та набори інструментів Міністерства оборони щодо відповідального ШІ та генеративного ШІ», рекомендує План дій щодо ШІ.
План дій також надає Міністерству оборони провідну і навіть видатну роль у багатьох ініціативах з безпеки ШІ. Міністерство оборони повинно очолити міжвідомчі зусилля з «створення нових технічних стандартів для центрів ШІ з високим рівнем безпеки» та оцінки прогресу супротивників у галузі ШІ.
Міністерство оборони повинно підтримати Управління директора національної розвідки у створенні «Стандарту забезпечення ШІ» для розвідувального співтовариства, більшість персоналу якого працює в Міністерстві оборони. Крім того, воно повинно співпрацювати з іншими агентствами з цілої низки питань, – від стимулювання вітчизняного високотехнологічного виробництва до вдосконалення експортного контролю.
Що стосується п'яти рекомендацій щодо модернізації самого Міністерства оборони, то, мабуть, найцікавішою – хоча й нечіткою – є рекомендація «створити віртуальний полігон для випробування штучного інтелекту та автономних систем».
Незрозуміло навіть, чи це буде реальна випробувальна база, чи якийсь суперсимулятор у стилі «Матриці»: слово «віртуальний» у назві означає, що все відбувається в Інтернеті, тоді як заклик оцінити «географічні... вимоги, необхідні для такої бази», наводить на думку, що може існувати фізичне місце розташування. Білий дім не відразу відповів на запит про роз'яснення.
Міністерство оборони також має завдання перетворити свої військові академії на «центри досліджень у галузі штучного інтелекту», підвищити кваліфікацію своїх співробітників та визначити «робочі процеси» – термін, що використовується як для бюрократичних процесів, так і для військового планування – які можна автоматизувати за допомогою штучного інтелекту.
Мабуть, найсумнішим є те, що План дій також передбачає надання Міністерству оборони пріоритетного доступу до хмарних провайдерів та інших обчислювальних послуг, щоб воно могло продовжувати користуватися ними в умовах війни.
Неймовірні можливості застосування штучного інтелекту, який стає інструментом нової форми війн.
Зверніть увагу
Шлях Одіна, людина-армія та скандинавський оптимізм: як перемагати перед кінцем світу (+аудіо)