Elena Larina et Vladimir Ovchinsky : la doctrine Schmidt (Club d'Izborsk, 26 février 2021)

Elena Larina et Vladimir Ovchinsky : la doctrine Schmidt

26 février 2021

https://izborsk-club.ru/20722

Le 23 février 2021, le Dr Eric Schmidt (ancien président du conseil d'administration de Google), président de la National Security Commission on Artificial Intelligence (NSCAI) et du Defense Innovation Board (DIB), s'est adressé à la commission des services armés du Sénat américain.

Il s'est concentré sur les questions qui sont également extrêmement importantes pour le développement du potentiel scientifique et technologique de la Russie.

Leadership technologique mondial et sécurité nationale

Le renforcement du leadership technologique mondial des États-Unis est, selon M. Schmidt, un impératif à la fois économique et de sécurité nationale. L'innovation est l'épine dorsale de l'économie et la source de l'avantage militaire américain.

M. Schmidt est convaincu que la crise nationale américaine à laquelle il faut s'attaquer dès maintenant constitue la menace du leadership chinois dans des domaines technologiques clés. Il est d'accord avec la thèse de Biden dans son discours de Munich (2021) : les États-Unis sont en "concurrence stratégique à long terme avec la Chine".

Selon l'évaluation de M. Schmidt, la Chine cherche à devenir un leader technologique par le biais d'investissements stratégiques dans un large éventail de domaines technologiques critiques, notamment par le biais de l'initiative "Made in China 2025".

L'intelligence artificielle (IA) est au cœur de cette vaste compétition technologique. Il sera utilisé pour développer tous les aspects du pouvoir national, des soins de santé à la production alimentaire en passant par la durabilité environnementale. L'adoption réussie de l'IA dans des domaines et des technologies connexes stimulera les économies, façonnera les sociétés et déterminera quelles nations exerceront une influence et un pouvoir dans le monde.

De nombreux pays ont des stratégies nationales d'IA. Mais seuls les États-Unis et la Chine, selon M. Schmidt, disposent des ressources, de la force commerciale, de la réserve de talents et de l'écosystème d'innovation nécessaires pour devenir un leader mondial de l'IA. Dans certains domaines de la recherche, la Chine est à égalité avec les États-Unis, et dans d'autres, elle est déjà plus avancée. Au cours de la prochaine décennie, la Chine pourrait dépasser les États-Unis en tant que superpuissance mondiale dans le domaine de l'IA en général.

Outre l'IA, la Chine vise à devenir un leader mondial dans le domaine de l'informatique quantique, des réseaux de cinquième génération (5G), de la biotechnologie synthétique et de plusieurs autres. Pékin considère que ses stratégies nationales dans ces domaines sont complémentaires et se renforcent mutuellement. Le PCC a clairement indiqué les technologies qu'il considère comme des priorités nationales. Dans chacun de ces domaines, la Chine cherche à égaler ou à surpasser le travail des scientifiques américains.

Selon M. Schmidt, si la Chine prend l'avantage, en tant que premier pays à développer et à adopter de nouvelles technologies, les États-Unis auront du mal à rattraper leur retard. Dans les secteurs critiques où les effets de réseau sont importants, comme les télécommunications, le principe du "winner-take-all" (le vainqueur remporte tout) soulève les enjeux du développement rapide des principales plates-formes technologiques.

M. Schmidt a appelé le gouvernement américain à élaborer une stratégie unifiée pour promouvoir et protéger la technologie qui soutiendra la compétitivité nationale au milieu du 21e siècle.

L'approche de la Maison Blanche en matière de compétitivité nationale dans les technologies critiques

Selon les conclusions de Schmidt, les États-Unis ont besoin d'une approche globale de l'investissement fédéral et de la politique en général pour une série de technologies émergentes. Une stratégie nationale globale devrait fixer et renforcer les priorités et négocier des compromis budgétaires. La stratégie devrait être dirigée par la Maison Blanche.

Schmidt a soutenu la recommandation de la Commission de l'intelligence artificielle de créer un nouveau Conseil de la compétitivité technologique dirigé par la Maison Blanche. Il devrait être dirigé par le vice-président et supervisé par un coordinateur principal de la Maison Blanche afin de s'assurer que le président dispose d'une organisation capable de développer, de mettre en œuvre et de financer une véritable stratégie technologique nationale.

La stratégie nationale, selon M. Schmidt, devrait se concentrer sur les technologies fondamentales qui ont un large impact sur la compétitivité et la sécurité nationales. L'intelligence artificielle, la 5G, la micro-électronique, les bio-technologies et l'informatique quantique devraient être sélectionnées comme priorités. L'importance de ces domaines est largement reconnue. La liste des priorités devrait également inclure la fabrication avancée (qui englobe à la fois l'industrie manufacturière et l'agriculture), ainsi que les infrastructures renforcées par l'intelligence des machines (tout, des routes aux ponts, des pipelines aux réseaux électriques).

La fabrication avancée, selon la doctrine Schmidt, est nécessaire pour qu'un pays puisse produire les biens dont il a besoin lorsque les chaînes d'approvisionnement sont perturbées par des catastrophes naturelles, des épidémies, etc. Cette mesure permettra de faire un grand pas en avant en améliorant l'efficacité et en optimisant la consommation d'énergie tout en réduisant les stocks de marchandises qui s'épuisent.

"La capacité de produire des biens de haute technologie au niveau national est essentielle pour la sécurité nationale, à la fois comme un aspect du maintien de l'accès aux produits finis et comme un moteur de l'innovation. Les États-Unis devraient s'efforcer d'être autosuffisants dans les industries qui sont essentielles à la sécurité nationale ou qui prennent trop de temps à se reconstruire en cas de conflit prolongé".

Les nouvelles infrastructures sont essentielles pour faire face aux situations d'urgence (Schmidt cite les approvisionnements en gaz gelé au Texas ou les feux de forêt volatils en Californie), permettent de choisir entre différents types de logistique (trains ou camions par rapport aux pipelines) et réduisent l'impact environnemental.

L'infrastructure existante aux États-Unis reste largement dysfonctionnelle : aucune ville américaine n'est dans le top 10 mondial pour la connectivité des villes intelligentes, et une seule est dans le top 30.

Un rôle plus agressif pour le gouvernement

Aujourd'hui, selon M. Schmidt, il existe une différence fondamentale dans l'approche de l'innovation entre les États-Unis et la Chine.

En Amérique, les entreprises technologiques ne sont pas des instruments du pouvoir gouvernemental et ne se font concurrence que pour des parts de marché. La plupart des avancées technologiques aux États-Unis sont le fait du secteur privé et des universités.

M. Schmidt estime que les États-Unis ne devraient pas perdre leur culture d'innovation ascendante, imprégnée d'une mentalité de "garage startup". Mais M. Schmidt est un réaliste ; il estime que préserver le passé n'est pas une stratégie gagnante : "On ne peut pas s'attendre à ce que les grandes entreprises technologiques concurrencent les ressources de la Chine ou fassent les gros investissements nationaux dont les États-Unis auront besoin pour rester en tête. Nous aurons besoin d'une approche hybride qui aligne plus étroitement les efforts des gouvernements et du secteur privé pour parvenir à la victoire".

Le secteur privé, selon M. Schmidt, est la grande force de l'Amérique. Les petites entreprises privées se développent plus rapidement et s'emparent de plus de parts du marché mondial que le gouvernement ne peut le faire. Toutefois, il estime qu'étant donné l'évolution du paysage, le gouvernement américain doit prendre des mesures pratiques pour rendre la technologie nationale plus compétitive. Encourager un écosystème de recherche et développement (R&D) diversifié et durable et faciliter le secteur commercial est la responsabilité du gouvernement. Le développement des ressources humaines, une immigration plus rapide et une réforme des visas visant à attirer les meilleurs talents du monde, ainsi que l'amélioration du système éducatif sont autant d'options de politique publique. La protection de la propriété intellectuelle essentielle et la prévention d'une campagne systématique de transfert illégal de connaissances par les concurrents sont une responsabilité gouvernementale. La protection des technologies de pointe et l'amélioration de la résilience de la chaîne d'approvisionnement nécessitent une législation et des incitations fédérales.

Démocratiser la recherche sur l'intelligence artificielle : une ressource nationale de recherche

Seules quelques grandes entreprises et nations puissantes auront les ressources nécessaires pour réaliser les plus grandes percées en matière d'IA. Malgré la prolifération des outils à source ouverte, le besoin de puissance de calcul et d'ensembles de données pour améliorer les algorithmes augmente rapidement. "Le gouvernement devrait faciliter l'accès aux environnements informatiques, aux données et aux outils de test pour permettre aux chercheurs qui ne font pas partie des principaux acteurs de l'industrie et des universités d'élite de progresser dans les technologies avancées d'IA.

Le gouvernement américain peut y parvenir en créant une ressource nationale de recherche sur l'IA (NAIRR) qui fournira aux chercheurs et aux étudiants ayant fait leurs preuves un accès garanti à des ressources informatiques compatibles avec les ensembles de données gouvernementales et non gouvernementales sur l'IA, des outils éducatifs et une assistance aux utilisateurs.

Le gouvernement américain devrait établir un partenariat public-privé en utilisant un ensemble de plates-formes en nuage (la Commission Schmidt sur l'intelligence artificielle a élaboré des plans détaillés pour mettre en œuvre cette recommandation)".

Infrastructure numérique : développer les réseaux 5G

M. Schmidt estime que faciliter le développement rapide de l'infrastructure du réseau 5G est un impératif de sécurité nationale pour les États-Unis. L'état de préparation militaire futur et le développement d'entreprises technologiques américaines compétitives de toutes tailles en dépendront. En outre, comme l'a montré la pandémie, une infrastructure numérique solide augmente la résistance aux chocs systémiques, permettant aux Américains d'accéder à la télémédecine, à l'enseignement à distance et à d'autres services dont ils ont besoin en temps de crise.

Les réseaux 5G relieront tous les systèmes mobiles avancés et, en particulier, lorsqu'ils seront combinés aux progrès de l'IA, ils ouvriront de nouvelles possibilités technologiques importantes directement aux appareils des utilisateurs.

La Chine considère également la construction d'infrastructures numériques comme une priorité stratégique et a investi massivement dans un réseau mobile Gigabit Ethernet à l'échelle nationale, et en construira un dans un avenir proche. Aux États-Unis, selon M. Schmidt, le développement du réseau 5G progresse lentement, avec seulement une augmentation progressive des débits et de la couverture des données.

À cet égard, M. Schmidt avance trois idées.

Premièrement, les recettes de la vente aux enchères du spectre C devraient être réinvesties dans l'infrastructure du réseau. M. Schmidt suggère d'étudier l'utilisation des 81 milliards de dollars de recettes générées par la vente aux enchères de 107 licences pour 3,7 GHz - le spectre de milieu de gamme pour les services 5G - par la Commission fédérale des communications (FCC) et par toute vente aux enchères future, et de réorienter l'argent vers le financement des infrastructures de réseau grâce à un mécanisme d'attribution conçu pour accélérer leur développement par le secteur privé.

Deuxièmement, il convient d'étudier la possibilité de partager les fonds provenant de la vente aux enchères du spectre C et d'autres ventes aux enchères alternatives. Par exemple, M. Schmidt a proposé un modèle dans lequel la Défense conserve le contrôle du spectre mais permet à l'industrie de le partager en échange de la mise en place rapide et à ses frais de l'infrastructure nécessaire. Schmidt précise qu'il ne s'agit pas d'un "5G nationalisé", comme le prétendent certains critiques. Il s'agira d'un réseau privé, géré et entretenu, qui sera utilisé en priorité par le ministère de la défense. En tout état de cause, M. Schmidt estime que le ministère de la défense devrait être applaudi pour avoir trouvé des solutions innovantes à ce problème urgent.

Troisièmement, les conditions de la vente aux enchères devraient être modifiées. Les États-Unis, selon M. Schmidt, ne peuvent pas simplement attendre l'émergence de la 6G ou de la 7G : "À l'heure actuelle, l'avantage concurrentiel est probablement perdu à jamais. Je pense qu'il s'agit d'un risque inacceptable pour la sécurité nationale. Nous devons modifier les conditions de la vente aux enchères. Pour toutes les futures enchères, en particulier dans le spectre C, qui est idéal pour la 5G, la FCC devrait imposer des exigences strictes aux gagnants des enchères afin de garantir que l'infrastructure de réseau nécessaire soit construite rapidement et équitablement".

Vulnérabilités du matériel : la microélectronique

La conclusion de Schmidt : après des décennies de leadership en microélectronique, les États-Unis sont maintenant presque entièrement dépendants des entreprises étrangères pour produire les semi-conducteurs avancés qui alimentent tous les algorithmes d'IA critiques pour les systèmes de défense et tout le reste.

La dépendance à l'égard des importations de semi-conducteurs, notamment en provenance de Taïwan, crée une vulnérabilité stratégique aux actions défavorables des gouvernements étrangers, aux catastrophes naturelles et à d'autres événements susceptibles de perturber les chaînes d'approvisionnement en microélectronique, comme nous l'avons vu récemment dans l'industrie automobile. Bien que les universités et les entreprises américaines restent les leaders mondiaux dans les domaines clés de la recherche et du développement des semi-conducteurs et de la conception des puces, l'industrie mondiale des semi-conducteurs est désormais très mondialisée et compétitive. Par exemple, la Taiwan Semiconductor Manufacturing Corporation (TSMC) est le leader mondial de la fabrication contractuelle de semi-conducteurs, et la société sud-coréenne Samsung fabrique des puces de pointe en utilisant les technologies et les équipements les plus récents.

En même temps, dans un effort pour rattraper son retard et atteindre l'autosuffisance en matière de puces, la Chine fait un effort sans précédent, financé par le gouvernement, pour créer une industrie des semi-conducteurs de premier plan au niveau mondial d'ici 2030.

Schmidt conclut que les États-Unis devraient élaborer une stratégie pour avoir au moins deux générations d'avance sur la Chine dans le domaine de la microélectronique avancée, et allouer des fonds pour soutenir les diverses sources de production de microélectronique avancée aux États-Unis.

M. Schmidt a fait plusieurs recommandations :

(1) le pouvoir exécutif devrait finaliser et mettre en œuvre une stratégie nationale de leadership en matière de microélectronique ;

(2) Le Congrès devrait offrir un crédit d'impôt remboursable de 40 % pour les investissements manufacturiers nationaux aux entreprises des États-Unis et de leurs alliés ;

(3) Le Congrès devrait fournir 12 milliards de dollars supplémentaires au cours des cinq prochaines années pour la recherche, le développement et la construction d'infrastructures en microélectronique dans des domaines clés. Cet investissement devrait contribuer à accélérer le passage des idées et des prototypes universitaires à la production industrielle au niveau national.

Cet effort permettra au gouvernement américain, au secteur privé et au monde universitaire de relever le défi du rétablissement de la supériorité des États-Unis en matière de semi-conducteurs : "Concentrer nos efforts sur le développement d'installations nationales de fabrication de microélectronique permettra de réduire la dépendance à l'égard des importations, de maintenir le leadership en matière d'innovation technologique, de soutenir la création d'emplois, d'améliorer la sécurité nationale et la balance commerciale, et de renforcer la supériorité technologique et l'état de préparation de l'armée, qui est un important consommateur de technologies de pointe

Implications de la concurrence des nouvelles technologies pour la défense

Selon M. Schmidt, de nombreux acteurs étatiques et non étatiques sont déterminés à défier les États-Unis, mais évitent la confrontation militaire directe. Ils utiliseront l'IA pour améliorer les outils existants et en développer de nouveaux. "Les attaquants exploitent notre ouverture numérique pour des opérations d'information utilisant l'IA et les cyber-attaques. En utilisant l'espionnage et les données publiques, les attaquants collecteront des informations et utiliseront l'IA pour identifier les vulnérabilités des individus, de la société et des infrastructures critiques".

Avec une approche plus étroite des questions militaires, les domaines technologiques clés sont importants et ont un large éventail d'applications dans le domaine de la défense. En substance, les sources d'avantage sur le champ de bataille passeront des facteurs traditionnels tels que la taille des forces et les niveaux d'armes à des facteurs tels que la collecte et l'assimilation rapides des données, la puissance de calcul, de meilleurs algorithmes et la sécurité du système.

Schmidt conclut que se défendre contre un adversaire doté d'une IA sans IA est une invitation au désastre. L'IA réduira les délais de prise de décision de quelques minutes à quelques secondes, élargira la portée des attaques et exigera des réponses qui dépassent la cognition humaine. Les opérateurs humains ne seront pas en mesure de se défendre contre les cyber-attaques ou les attaques de désinformation utilisant l'IA, les essaims de drones ou les attaques de missiles sans l'aide de machines d'IA. Les meilleurs opérateurs humains ne peuvent pas se défendre contre une multitude de machines effectuant des milliers de manœuvres par seconde, se déplaçant potentiellement à des vitesses hypersoniques et contrôlées par l'IA. Les humains ne peuvent pas être partout à la fois, mais les logiciels le peuvent.

Le Pentagone développe une série de concepts opérationnels pour lutter contre ces guerres futures. Mais le souci de M. Schmidt est qu'au rythme actuel de l'intégration technologique, le ministère ne pourra pas les exécuter à temps. Pour combattre de la manière dont les militaires ont l'intention de se battre en 2030 ou 2035, le ministère de la défense doit préparer les bases bien à l'avance.

Modèle commercial

Le ministère de la défense doit repenser son mode de fonctionnement. "Nous devons construire des missiles de la même manière que nous construisons des voitures aujourd'hui : en utilisant des bureaux d'études pour concevoir et simuler avec des logiciels", explique M. Schmidt, "les longs cycles de conception tuent notre compétitivité. Les cycles de conception et de fabrication itératifs rapides (travail en parallèle avec une analyse continue des résultats - E.L., VO) sont la clé de la compétitivité. La Défense devrait cibler les systèmes militaires dont la sortie peut être accélérée grâce à de nouvelles sociétés de conception, une collaboration numérique et des changements dans les règles d'acquisition qui tiennent compte de tout cela".

Mesures spécifiques que le ministère américain de la défense devrait prendre dès maintenant (conseil de E. Schmidt au Pentagone)

1. intégrer dès maintenant les technologies numériques existantes

Nombre des nouvelles technologies dont l'armée a besoin sont déjà disponibles sur le marché commercial. Procurez-vous-les. Cela créera des incitations commerciales à produire des technologies de défense de plus en plus utiles :

● Donner la priorité aux technologies existantes qui peuvent étendre les fonctions d'intelligence basées sur l'IA. Il existe d'importantes possibilités de mieux exploiter les technologies disponibles sur le marché pour améliorer la connaissance de la situation ainsi que l'indication et l'alerte. L'automatisation et les synergies homme-machine peuvent améliorer l'efficacité de toute une série de plateformes ISR (Intelligence, Surveillance et Reporting) et améliorer le cycle complet de collecte et d'analyse des informations.

Le ministère devrait aligner ses initiatives en matière d'innovation pour mettre en œuvre une stratégie coordonnée de solutions technologiques commerciales. Cet effort devrait être mené par le sous-secrétaire à la défense pour la recherche et le développement.

Mettre en place des équipes de développement et de déploiement de l'IA dans chaque commandement de combattant. Les équipes de développement de l'IA doivent être intégrées à chaque commandement de combattant et doivent être capables de soutenir l'ensemble du cycle de développement et de déploiement de l'IA, y compris l'analyse des données, le développement, les tests et la production. Les commandements doivent avoir une capacité de déploiement direct pour servir d'interface locale aux unités opérationnelles.

2. Améliorer l'infrastructure numérique du ministère

Le ministère de la défense a fait un premier pas prometteur en 2020 avec la publication de la stratégie de données du ministère de la défense des États-Unis (30 septembre 2020). Toutefois, le ministère ne dispose pas d'un écosystème numérique moderne, d'outils et d'environnements de collaboration, ni d'un large accès aux ressources partagées d'IA nécessaires à l'intégration de l'IA dans les organisations.

Le secrétaire à la défense doit diriger la création d'un écosystème numérique à l'échelle du ministère de la défense. Il est impératif que tous les nouveaux programmes de services s'alignent sur la conception des

et que, dans la mesure du possible, les programmes existants deviennent interopérables avec lui d'ici 2025.

Ce cadre technique doit :

1) fournir un accès aux technologies et services de pointe dans le domaine du cloud computing pour une informatique évolutive ;

2) permettre le partage des données, des logiciels et des capacités par le biais d'interfaces bien documentées et robustes avec des contrôles d'accès appropriés ;

3) fournir à tous les développeurs et scientifiques du ministère de la défense l'accès aux outils et ressources dont ils ont besoin pour réaliser de nouvelles capacités d'IA.

D'ici la fin 2021, le ministère devrait définir l'architecture de l'écosystème. L'objectif devrait être de créer un réseau de systèmes sécurisés avec des normes ouvertes qui soutiennent l'intégration des applications d'IA aux niveaux opérationnels et entre les domaines. Il devrait être accessible à tous les services militaires et comprendre plusieurs éléments, notamment des réseaux de commandement et de contrôle, le transfert, le stockage et le traitement sécurisé des données, ainsi que l'intégration des systèmes d'armes.

3. Réforme de la structure de direction

Le leadership est une variable critique. L'innovation exige un changement organisationnel, et pas seulement des capacités techniques. Les hauts responsables militaires et gouvernementaux doivent fixer des priorités et des orientations claires, et tenir compte d'une plus grande incertitude et de risques accrus lors de l'adoption de nouvelles technologies.

Le ministère de la défense, en particulier, devrait le faire :

● Créer un comité directeur de haut niveau sur les technologies émergentes, présidé par le sous-secrétaire à la défense, le vice-président des chefs d'état-major des armées et le premier directeur adjoint du renseignement national.

4. Créer de nouvelles filières de talents.

Il n'existe pas de programme, de projet pilote, de stage ou d'orientation pour les talents techniques qui puisse combler le manque de talents du ministère de la Défense, et le même problème se pose dans les agences de sécurité nationale.

Ce n'est pas le moment d'ajouter de nouveaux postes dans les ministères et les agences de sécurité nationale pour les technologues de la Silicon Valley.

Nous devons construire des filières de talents entièrement nouvelles à partir de la base. Nous devons créer une nouvelle académie des services numériques et une réserve nationale civile pour cultiver les talents techniques avec le même sérieux que les officiers. L'ère du numérique exige un corps numérique.

Les experts en technologie ont besoin de meilleurs moyens pour faire carrière au sein du gouvernement en mettant l'accent sur leurs connaissances. Les pratiques actuelles de gestion des talents offrent souvent aux experts des postes sans rapport avec leur domaine de compétence. De ce fait, beaucoup quittent le gouvernement ou l'armée. Le ministère de la défense devrait préparer le terrain pour permettre aux civils et aux militaires de faire carrière dans le développement de logiciels, le traitement des données et l'intelligence artificielle.

La formation des dirigeants et des hauts commandants est également très importante. Les dirigeants qui ne sont pas versés dans les nouvelles technologies sont moins susceptibles de s'engager dans des programmes qui leur sont liés. Ils ne seront pas en mesure d'intégrer les nouvelles technologies dans les concepts opérationnels ou les processus organisationnels.

Le ministère de la défense doit également intégrer la pensée informatique et les bases de l'utilisation de l'IA dans la formation des commandants subalternes. Les sous-officiers et les officiers subalternes ont besoin d'un niveau de connaissances de base pour utiliser les nouvelles capacités de manière responsable. Le ministère de la défense doit intégrer les compétences numériques et la pensée informatique dans la formation initiale des officiers. Il devrait se concentrer sur la collecte et la gestion des données, le cycle de vie de l'IA, les processus probabilistes et la visualisation des données, ainsi que la prise de décision basée sur les données.

5. Investir dans la science et la technologie et aligner l'investissement sur la stratégie

Le ministère américain de la défense devrait s'engager à consacrer au moins 3,4 % de son budget à la science et à la technologie, en mettant l'accent sur les technologies nouvelles et de pointe. Il s'agirait d'une augmentation significative par rapport au niveau actuel de 2,3 %, qui suivrait les recommandations de longue date du ministère de la défense, du Conseil scientifique et d'autres, telles qu'elles sont exposées dans un prochain rapport du NSCAI. Plus précisément, pour l'IA, le ministère doit faire passer les dépenses de R&D d'environ 1,5 milliard de dollars à au moins 8 milliards de dollars d'ici 2025.

Pour aligner les investissements sur la stratégie, le DOD doit préparer une annexe technologique dans le prochain document de la stratégie de défense nationale. Cette annexe donnera la priorité aux investissements dans la technologie et son développement par rapport aux capacités militaires nécessaires pour réaliser les futurs concepts opérationnels. Et il indiquera clairement quelles technologies sont prioritaires pour le ministère.

6. Réformer le processus budgétaire obsolète du ministère américain de la défense

Le problème de la Défense n'est pas l'innovation, mais la mise en œuvre. Le processus budgétaire dépassé de l'ère industrielle crée une vallée de la mort pour les nouvelles technologies en permettant le financement de la recherche fondamentale ainsi que l'achat de systèmes d'armes, mais en empêchant les investissements flexibles nécessaires pour réaliser des prototypes, expérimenter de nouveaux concepts et technologies comme l'IA.

Le Congrès et le ministère de la défense doivent travailler ensemble pour autoriser et financer immédiatement les projets et préparer le terrain pour une réforme plus radicale.

7. Garantir le développement, les essais et l'utilisation responsables de systèmes autonomes utilisant l'IA

Si un système basé sur l'IA ne fonctionne pas comme prévu, prévisible et guidé par des principes clairs, les opérateurs ne l'utiliseront pas, les services militaires ne l'adopteront pas et le peuple américain ne le soutiendra pas. La précipitation à intégrer l'IA sera contre-productive si elle fait perdre aux agents la confiance dans ses avantages. Tous les systèmes militaires nécessitent des tests rigoureux, une assurance et une compréhension de la façon dont ils peuvent fonctionner dans le monde réel, par opposition à un banc d'essai. Les systèmes d'armes autonomes à IA pourraient être plus précis et, par conséquent, réduire le nombre de victimes civiles. Mais ils soulèvent également d'importantes questions éthiques sur le rôle du jugement humain dans l'utilisation de la force meurtrière. Si elles sont mal conçues ou mal utilisées, elles pourraient augmenter le risque d'escalade militaire.

Une approche entièrement nouvelle des essais, de l'évaluation, de la validation et de la vérification (TEVV) sera nécessaire. La Défense doit adapter et développer les politiques et les capacités de la TEVV afin de s'adapter aux changements requis pour l'IA à mesure que le nombre, la portée et la complexité des systèmes basés sur l'IA augmentent. Cela devrait inclure la création d'une structure et d'une culture TEVV qui conduisent à des tests continus ; la mise à disposition des outils et des capacités TEVV au ministère de la défense ; la mise à jour ou la création de gammes de tests virtuels et constructifs pour les systèmes basés sur l'IA ; et la restructuration des processus sous-jacents aux exigences de conception, de développement et de test des systèmes.

***

La Doctrine Schmidt mérite d'être examinée par les agences de sécurité nationale russes.

Vladimir Ovchinsky

Vladimir Semyonovich Ovchinsky (né en 1955) est un criminologue russe bien connu, major général de milice à la retraite, docteur en droit. Avocat honoré de la Fédération de Russie. Ancien chef du bureau russe d'Interpol. Membre régulier du Club d’Izborsk.

Traduit du russe par Le Rouge et le Blanc.