По сообщениям, министр обороны США Пит Хегсет пригрозил исключить Anthropic из цепочки поставок ведомства, если фирма, занимающаяся разработкой искусственного интеллекта, не разрешит использовать свои технологии во всем спектре военных применений.
Этот ультиматум, как сообщается, был выдвинут во время встречи в Пентагоне во вторник, которую Хегсет запросил с генеральным директором Anthropic Дарио Амодеи, по словам источника, знакомого с ходом обсуждений, говорившего с BBC.
В своем заявлении Anthropic заявила: «Мы продолжили добросовестные разговоры о нашей политике использования, чтобы гарантировать, что Anthropic сможет продолжать поддерживать миссию правительства по обеспечению национальной безопасности в соответствии с тем, что наши модели могут надежно и ответственно делать».
Высокопоставленный чиновник Пентагона указал, что у Anthropic есть время до вечера пятницы, чтобы выполнить требование.
Хотя источник BBC охарактеризовал тон дискуссии Хегсета и Амодеи как сердечный, Амодеи, как сообщается, очертил то, что Anthropic считает своими «красными линиями».
К ним относится участие в автономных кинетических операциях, в которых инструменты искусственного интеллекта принимают окончательные решения о военных целях без вмешательства человека.
Источник добавил, что использование инструментов Anthropic для массовой внутренней слежки также представляет собой запрещенное применение.
Однако чиновник Пентагона сообщил BBC, что нынешний тупик между ведомством и Anthropic не связан с развертыванием автономного оружия или массовой слежкой.
По словам чиновника, если Anthropic не подчинится, Хегсет обеспечит применение Закона об оборонном производстве против компании.
Такая мера может заставить руководителей Anthropic предоставить Пентагону неограниченный доступ к своему искусственному интеллекту в целях национальной безопасности.
Чиновник далее заявил, что Пентагон одновременно обозначит Anthropic как риск для цепочки поставок.
Представитель Anthropic отметил, что Амодеи «выразил признательность за работу Департамента и поблагодарил Секретаря за его службу» во время встречи с Хегсетом.
Anthropic, создатель чат-бота Claude AI, была в числе четырех компаний, занимающихся разработкой искусственного интеллекта, которым прошлым летом были присуждены контракты с Пентагоном.
Google, OpenAI (создатель ChatGPT) и xAI Илона Маска (создатель чат-бота Grok) также получили контракты, каждый из которых потенциально стоит до 200 миллионов долларов.
Представитель Министерства обороны Эмиль Майкл ранее заявлял, что ведомство ожидает, что OpenAI, Google, xAI и Anthropic позволят Пентагону «использовать любую модель для всех законных случаев использования».
Anthropic последовательно стремилась позиционировать себя как приоритезирующую более осознанный подход к безопасности в исследованиях искусственного интеллекта по сравнению со своими конкурентами.
Компания регулярно публикует отчеты о безопасности своих собственных продуктов.
В отчете за прошлый год признавалось, что ее технология искусственного интеллекта была «использована в качестве оружия» хакерами, которые использовали ее для проведения сложных кибератак.
Имидж компании подвергся тщательному изучению после сообщений о том, что американские военные использовали ее модель Claude AI во время операции, приведшей к захвату бывшего президента Венесуэлы Николаса Мадуро в январе.
Anthropic была первой технологической компанией, получившей разрешение на работу в засекреченных военных сетях Пентагона, и поддерживает партнерские отношения с такими компаниями, как Palantir.
Источники сообщили BBC, что модель Claude использовалась в операции Мадуро по контракту с Palantir.
Позиция Пентагона заключается в том, что Anthropic не должна иметь полномочий диктовать, как Пентагон использует ее продукты.
Наблюдатели предполагают, что нынешний спор между Anthropic и Пентагоном проистекает из-за подрыва доверия между двумя организациями.
«Им нужно прийти к решению», — заявила Эмилия Пробаско, старший научный сотрудник Центра безопасности и новых технологий Джорджтаунского университета.
«На мой взгляд, мы должны давать людям, которых мы просим служить, каждое возможное преимущество. Мы обязаны им разобраться в этом», — заключила Пробаско.
Подпишитесь на нашу новостную рассылку Tech Decoded, чтобы следить за главными техническими новостями и тенденциями в мире. За пределами Великобритании? Зарегистрируйтесь здесь.