Elena Larina et Vladimir Ovchinsky : Intelligence artificielle contre COVID-19 (Club d'Izborsk, 20 avril 2020)

Elena Larina et Vladimir Ovchinsky : Intelligence artificielle contre COVID-19

20 avril 2020.

https://izborsk-club.ru/19128

Dès les premières semaines de la propagation de COVID-19, d'abord en Chine, puis à travers la planète, les dirigeants des différents pays, gouvernements, organisations internationales ont littéralement commencé à ajuster leurs vues sur les outils de l'arsenal de la pandémie. En particulier, le Conseil de l'Europe a essayé de compiler les meilleures pratiques en matière d'utilisation des technologies de l'information et de la communication et des plates-formes algorithmiques pour lutter contre diverses crises. Dans le cadre de ces travaux, le Conseil a sollicité les avis de chercheurs de premier plan dans le domaine des solutions de haute technologie, y compris l'intelligence artificielle (IA), non seulement en Europe, mais aussi en Amérique et en Asie. Le rapport le plus intéressant qui a été présenté au Conseil européen dans le cadre de ce travail est peut-être l'étude de la Brookings Institution sur les espoirs que suscite l'IA et la réalité de sa mise en œuvre, préparée par l'un des principaux analystes de l'Institut, Alex Engler, en avril 2020.

Voici les principales conclusions de ce travail et de plusieurs autres sur l'IA par rapport à COVID-19.

Les scientifiques arrivent à des conclusions inhabituelles et paradoxales : début avril 2020, ils affirment que les espoirs de voir l'IA devenir la panacée contre les crises se sont révélés exagérés. Bien que des changements puissent survenir à l'avenir, les ensembles technologiques tels que la transmission de données, la télémédecine, les outils et modèles traditionnels mis au point dès le siècle dernier, ainsi que les outils et modèles de diagnostic, contribuent aujourd'hui beaucoup plus que la grippe aviaire à la lutte contre la propagation et la reprise des épidémies.

Une enquête menée auprès de décideurs, de virologistes et de représentants du secteur technologique et du monde universitaire a mis en évidence huit considérations qui conduisent au scepticisme quant aux affirmations de l'IA comme étant une technologie de pointe dans le monde moderne.

1) Faites attention aux experts

L'expérience en matière de reconnaissance de l'origine et de la propagation de COVID-19 a montré que les informations les plus anciennes et les plus adéquates ont été obtenues non pas par des systèmes algorithmiques et l'IA, axés sur la reconnaissance des signaux faibles, mais par les agences de renseignement du Royaume-Uni et des États-Unis, qui ont reçu des informations de leur agence en Chine et ont suivi les rapports scientifiques et les rapports d'experts virologues.

Malgré tout ce qu'on dit sur les algorithmes et les grosses données (BD), aucun pays au monde n'a fait de prévisions précises sur l'épidémie, depuis le stade primaire à Wuhan, en Chine, jusqu'au stade actuel en Europe, en Amérique et en Asie. Cela est dû, dans une mesure décisive, à ce que les analystes et les prévisionnistes savent depuis longtemps : la prévision efficace par des systèmes algorithmiques et l'IA des résultats de tel ou tel processus, pour lesquels il n'existe pas de données précises et fiables, est non seulement impossible mais aussi nuisible. Face à des problèmes et des menaces mal définis, il vaut mieux agir de manière proactive qu'avec des modèles de calcul à long terme. Pour que les modèles puissent continuer à fonctionner à l'avenir, il est nécessaire de disposer de données de premier ordre, constamment mises à jour, du volume nécessaire et de la structure détaillée des différents groupes de population, des facteurs et des conditions associés aux pandémies ou autres processus catastrophiques.

COVID-19 a révélé que si les calculs de l'IA se sont révélés infructueux, les meilleurs épidémiologistes utilisant des modèles statistiques connus et de longue date pour étudier les pandémies ont pu faire des prévisions assez fiables dès le mois de février. Curieusement, cependant, les prévisions que certains gouvernements ont faites sur la base de l'IA en développant les contre-mesures COVID-19 se sont avérées invalides. Par exemple, le modèle dit de Manchester a donné au Royaume-Uni et aux États-Unis plusieurs fois l'erreur, et non par intérêt. Parallèlement, des épidémiologistes expérimentés utilisant des modèles mathématiques simples de mortalité - un modèle pour la pandémie de variole datant de 1766 - ainsi que des modèles d'épidémiologie mathématique développés dans les années 1980 et 1990 ont été largement utilisés en Corée du Sud, à Taïwan et dans plusieurs autres États, et ont permis non seulement de faire des prévisions fiables, mais aussi de développer des contre-mesures sur cette base, qui se sont avérées très efficaces.

Début avril 2020, ce n'est plus l'IA, mais le modèle épidémiologique Kermak-Makkendrik, développé en 1927, qui permet de prédire l'épidémie avec le plus de précision. Cependant, le modèle nécessite une correction constante par des épidémiologistes expérimentés. Le modèle d'Anderson Kermak et de William McKendrick est aujourd'hui connu sous le nom de modèle SIR. Cette abréviation vient des mots anglais Susceptible - Infecté - Récupéré, qui signifient littéralement "susceptible - infecté - récupéré ».

Ce sont les anciens modèles éprouvés et les épidémiologistes expérimentés, plutôt que les mathématiciens, les statisticiens, les entraîneurs de machines et les programmeurs d'IA, qui apportent aujourd'hui une contribution décisive à la lutte contre l'épidémie.

L'IA et même les modèles mathématiques-statistiques n'ont aucune valeur sans l'aide d'experts et de spécialistes en cas de force majeure. Récemment, il est devenu habituel d'appeler IA toute utilisation de méthodes mathématiques, logiques ou statistiques. C'est une erreur. La plupart des méthodes mathématiques-statistiques existaient sans aucun doute, alors que l'IA n'était pas décrite, même dans les romans fantastiques. La principale caractéristique attrayante de l'IA, de l'avis des exploiteurs, est la capacité des calculs combinatoires à trouver des régularités profondes supplémentaires dans les données, auxquelles les gens ne prêtaient pas attention. Contrairement aux modèles d'IA, qui étudient des modèles sur des données historiques et prédisent des processus sur cette base, les épidémiologistes ne considèrent les modèles statistiques que comme un moyen de formuler et de tester des hypothèses. En plus des méthodes mathématiques, ils utilisent largement l'analyse qualitative et même des choses non scientifiques telles que l'intuition médicale.

L'utilisation de l'IA pour la prévision, d'une part, et pour la reconnaissance des processus et des phénomènes, d'autre part, est perçue différemment par les épidémiologistes et utilisée dans leur travail pratique. Récemment, des journalistes, retenant leur souffle, ont écrit : "L'IA a prédit le coronavirus", et les chiffres ont persuadé les politiciens de prendre des mesures urgentes sur les marchés financiers, en arguant que les terribles taux de mortalité prédits par l'IA.

C'est un exemple classique : En février, le président Trump et ses conseillers médicaux ont assuré au public qu'il n'y aurait pas d'épidémie de coronavirus aux États-Unis. Il s'agit alors de l'une des plus puissantes IA travaillant pour la défense et le renseignement. Ayant reçu ses prévisions stupéfiantes, M. Trump prend la parole et informe que dans les prochains mois, 150 à 240 000 citoyens vont mourir du coronavirus. Le discours se déroule dans un environnement extrêmement tendu. Le Congrès américain est en train de décider du sort des 2,2 billions de dollars qui devraient être émis pour combattre les effets du coronavirus dans l'économie américaine. Après le discours émouvant de D. Trump, le Congrès vote en faveur... Une pluie de dollars tombe sur les plus grandes banques et sociétés américaines, ainsi qu'un peu sur les petites et moyennes entreprises et la population. Après avoir pris la décision d'une émission sans précédent, les exploitants de l'IA publient une nouvelle prévision et signalent que le taux de mortalité aux Etats-Unis ne devrait pas dépasser 25-30 000 personnes. Toutefois, les chiffres prévus continuent de baisser comme de la corne d'abondance et déjà le 18 avril, lors de la présentation du programme d'aide aux agriculteurs Trump sonne de nouveaux chiffres "la pandémie de coronavirus aux États-Unis devrait prendre 60-65 mille vies. Comme on dit, n'importe quel caprice pour votre argent.

Aujourd'hui, il est évident que l'IA n'a pas encore de valeur indépendante et exceptionnelle. L'IA n'est rien d'autre qu'un système familier des années 70-90 du siècle dernier, et décrit théoriquement encore plus tôt, un système qui soutient le travail des experts qui prennent ou conseillent les décisions. Dans les années 70-90 du siècle dernier, des systèmes dits experts ont été utilisés avec succès au Pentagone et dans les grandes sociétés financières américaines.

2) L'IA a besoin d'une énorme quantité de données

Les journalistes, les développeurs, les propriétaires de sociétés technologiques et les investisseurs ont constamment convaincu la société que l'IA est sur le point de surpasser l'homme. Ils l'ont prouvé avec le triomphe d'AI sur l'homme aux échecs et au go, ainsi que son triomphe sur les gens dans la compétition Jeopardy. Cependant, ils ne voulaient pas révéler leur secret au public, aux financiers et aux politiciens. Elle réside dans le fait que ces victoires ont été remportées grâce aux méthodes de reconnaissance de formes basées sur la combinatoire et l'optimisation qui sont bien connues depuis le milieu du siècle dernier. Afin de résoudre même un simple problème d'IA statique, il faut des tonnes de données préliminaires avec des résultats connus à l'avance. En outre, la modélisation informatique dite complexe est utilisée pour la formation. Sans modélisation combinatoire et computationnelle complexe, l'IA ne peut rien faire.

Cela explique pourquoi l'IA n'a pas pu prédire la dynamique et les caractéristiques de COVID-19. Elle ne disposait tout simplement pas de données sur des épidémies similaires antérieures. COVID-19 semble être une construction virale fondamentalement différente des virus connus de l'homme qui ont généré les épidémies (d'où le débat permanent entre d'éminents scientifiques sur l'apparition artificielle ou naturelle de COVID 19). Cependant, les développeurs et les utilisateurs de l'IA ont utilisé des données historiques sur les SAO, la grippe, etc. pour prédire la dynamique de COVID-19. D'où les erreurs et les mauvais calculs.

Ainsi, dans le cadre d'une approche sceptique de l'IA, il est très important de découvrir sur la base de quelles données spécifiques l'IA prédit une pandémie de virus fondamentalement nouvelle. Bien que la dynamique et la manifestation des épidémiesinfectieuses varient considérablement entre elles en raison des caractéristiques différentes du virus, l'IA fait en fait des prédictions sur la propagation d'un tout nouveau virus en se basant sur des données antérieures caractérisant une image virale complètement différente. L'IA peut effectivement prévoir et analyser des processus standard et de routine, mais elle est impuissante à prévoir des processus fondamentalement nouveaux qui n'avaient pas d'analogues dans le passé. Dans ce cas, l'IA n'a tout simplement rien à enseigner.

De nombreux gouvernements ont placé des espoirs excessifs dans l'IA, oubliant les leçons d'IBM Watson. Malgré les espoirs initiaux, Watson n'a pas réussi à devenir un système médical puissant qui diagnostique seul le cancer, les maladies cardiovasculaires et certaines autres maladies à un stade précoce, comme l'avait espéré IBM. Si les échecs dans l'utilisation de l'IA avaient été aussi détaillés et complets que les succès, les décideurs auraient alors appris que les principales erreurs de Watson se sont produites dans des cas où différentes maladies présentaient des symptômes similaires. Dans le même temps, les oncologues et les cardiologues ont résolu le problème du diagnostic plus efficacement que Watson. Dans le même temps, ils appréciaient beaucoup Watson en tant que système expert qui permet de collecter, d'accumuler, de structurer les données et de construire divers classificateurs et tableaux analytiques pour aider les médecins à prendre des décisions.

Déjà pendant la pandémie actuelle, des systèmes de surveillance, notamment en Chine, associant la reconnaissance faciale aux données d'imagerie thermique et aux mesures de température, ont été utilisés dans un premier temps pour détecter les personnes suspectées de coronavirus et les isoler. Cependant, il a été rapidement déterminé que les températures élevées seules, en particulier entre 37,3 et 37,5 degrés Celsius, n'étaient pas un facteur significatif dans le diagnostic de COVID-19.

3) Ne faites pas confiance à l'IA lorsque la précision est requise.

Alibaba prétend avoir développé une plateforme d'IA qui utilise les images de la tomodensitométrie pour diagnostiquer de manière fiable le COVID-19. À cet égard, Bloomberg rapporte que la société offre gratuitement ce logiciel de diagnostic aux pays de l'UE. Beaucoup de gens en sont très heureux. Actuellement, le diagnostic de COVID-19 est effectué dans le cadre de la réaction en chaîne de la polymérase (PCR). Elle nécessite un équipement spécialisé et prévoit une période suffisamment longue pour obtenir le résultat. Alibaba rapporte qu'il peut obtenir l'analyse beaucoup plus rapidement, moins cher, avec une précision de 96%.

Le problème, cependant, est que les meilleurs professionnels de l'IA savent très bien qu'il est très, très difficile d'atteindre une précision de 96% en utilisant l'apprentissage machine. En général, les opérateurs d'IA constatent rapidement que, dans la pratique, un pourcentage de précision surestimé obtenu à partir des données de formation n'est pas réalisable. Et par conséquent, les diagnostics et les prévisions sont beaucoup plus imprécis que dans les documents publicitaires. Le fait qu'Alibaba affirme que son modèle fonctionne bien, mais qu'elle ne peut pas divulguer les algorithmes, est un argument supplémentaire en faveur du doute et de la méfiance. Il est très important de ne pas faire d'erreurs lors des diagnostics. Il est bien pire de supposer à tort qu'une personne atteinte de COVID-19 n'est pas malade (cela peut lui permettre de continuer à infecter d'autres personnes) que de supposer qu'une personne en bonne santé est atteinte de COVID-19. Le diagnostic inexact de l'IA rend cette situation très possible.

4) L'IA, c'est la performance et le monde réel...

Les circonstances dans lesquelles l'IA est déployée peuvent également avoir une grande importance et un impact important pour déterminer son efficacité. Lorsque les modèles d'une IA, et les investisseurs et financiers qui la connaissent le mieux, quittent les laboratoires, les centres de développement et commencent à faire des prévisions du monde réel, ils dégradent presque toujours les résultats et les performances par rapport aux tests de leur fabricant. Lors de l'évaluation d'un scan, un modèle qui peut différencier les personnes en bonne santé de celles qui ont la COVID-19 a de meilleures chances de réussir lorsqu'il s'agit de patients atteints de la grippe ordinaire (et aux États-Unis, la saison de la grippe ordinaire va toujours de novembre à début avril). En conséquence, le modèle considérera les patients atteints de la grippe comme des patients COVID-19. Cela va surcharger davantage les établissements de santé et déformer visiblement l'image de la propagation réelle de l'épidémie et de son intensité.

Dans des travaux récents sur l'utilisation de l'IA pour le diagnostic des taches de naissance malignes, basés sur la reconnaissance de motifs, des chiffres, des exemples et des photographies spécifiques ont montré que le modèle confondait souvent les taches de naissance bénignes avec les taches malignes. Cependant, si le modèle était utilisé en conjonction avec un oncologue expérimenté, il reconnaissait rapidement l'erreur. Ainsi, il a été établi de manière ferme et fiable que, tant en termes de coût que de temps, le système expert, où le médecin est assisté par un logiciel et un complexe informatique, est beaucoup plus efficace que l'IA en tant que substitut d'une personne.

5) Les prévisions informatiques doivent être corrigées par des spécialistes

Dans les situations où les enjeux sont importants, l'IA est tenue de faire une prévision qui non seulement est exacte, mais qui permet aussi à un individu de prendre une décision adéquate dans une situation de force majeure. Cela suppose que la personne doit faire confiance à l'IA et comprendre comment elle est parvenue à telle ou telle conclusion de nature analytique, et encore moins pronostique. Entre-temps, dans une large mesure, sous l'influence des développeurs de l'IA, l'IA est imposée aux décideurs comme un système complètement autonome qui prend la décision finale. Cela est particulièrement vrai aujourd'hui dans le domaine de la finance et des investissements, où les plateformes robotisées sans intervention humaine réalisent quotidiennement au moins 85% des transactions représentant des centaines de milliards de dollars.

Cela est tout à fait vrai pour la médecine également. Par exemple, déjà pendant l'épidémie actuelle, l'IA liée à la reconnaissance des formes et au contrôle de la température a été utilisée pour bloquer ou contrer l'autorisation d'accès aux aéroports, aux supermarchés, aux pharmacies et aux lieux publics. D'énormes sommes d'argent ont été dépensées pour ces systèmes, qui auraient pu être utilisées, par exemple, pour fournir du matériel médical. L'expérience a montré que ce type d'utilisation de l'IA est assez rapidement décevant pour les décideurs en raison de son diagnostic extrêmement imprécis. L'écrasante majorité des personnes fiévreuses qui pourraient être reconnues comme des patients COVID-19 restent simplement à la maison et appellent leurs amis, leurs parents, leurs fournisseurs de nourriture, etc. Ainsi, la fonction clé - l'isolement des malades par rapport aux personnes en bonne santé - n'est pas respectée, et des décisions coûteuses sont inutiles.

L'utilisation réussie de l'IA dans le système d'assurance-maladie, par exemple, montre ce qui suit. Une IA ne doit pas rendre de verdicts. L'IA est capable d'identifier, grâce à un grand nombre de données, des individus suspects dont la décision finale devrait être prise par un épidémiologiste plutôt que par un officier de police.

6) Attentes excessives.

Wired a publié un article intitulé "Un épidémiologiste a envoyé les premières alertes au virus à Wuhan". L'article, publié en janvier, est basé sur le fait que BlueDot AI a signalé la possibilité d'une nouvelle épidémie le 31 décembre 2020. Cependant, pour le moins, ce n'est pas tout à fait vrai. Selon ABC News, les services de renseignement américains ont averti l'administration de D. Trump de l'émergence d'un nouveau coronavirus, probablement à la suite d'une fuite accidentelle d'un laboratoire de Wuhan en novembre 2019. En outre, dans le cadre du libre accès à Internet, fin décembre 2020, une vidéo avec l'appel d'un médecin chinois a été diffusée sur l'émergence d'un nouveau virus dangereux. Cependant, M. Trump et son administration n'ont réagi en aucune façon et n'ont pris aucune mesure pour préparer le pays à faire face au virus menaçant.

En réalité, BlueDot, en collaboration avec l'hôpital pour enfants de Boston, a commencé à travailler sur un tout nouveau projet en 2018. Il s'agit essentiellement d'utiliser l'IA pour accumuler des textes, du matériel audio et vidéo provenant des médias, des plateformes Internet et des blogueurs qui traitent des épidémies de maladies infectieuses nouvelles et existantes et, en général, des discussions sur les maladies. Dans le cadre de ces travaux, un ensemble de moyens de détection précoce des risques viraux a été créé. Dans ce cas, nous avons un exemple non pas de fausse prédiction, mais d'utilisation tout à fait adéquate et efficace de l'IA pour traiter d'énormes quantités d'informations et en isoler les signes caractérisant la possibilité d'une maladie infectieuse. C'est un exemple classique de l'utilisation de l'IA dans le but prévu, à savoir reconnaître les signaux précoces et y répondre à l'avance. Après avoir reçu ces informations, les virologistes entrent en jeu.

Ainsi, l'IA, étant un prédicteur très imprécis, est un analyste inestimable pour le traitement d'énormes données multi-formats, y compris les données brutes. Dans ce cas, l'IA n'a pas rendu de verdict et, de plus, n'a pas prédit, mais a attiré l'attention des virologistes sur certains phénomènes et événements anormaux. Et puis les gens sont entrés en action. Même si la grippe aviaire s'améliore, il est peu probable qu'elle puisse séparer les nouvelles épidémies locales à faible risque des premiers stades des pandémies mondiales.

Les mathématiciens du siècle dernier, contrairement aux marchands d'ordinateurs actuels, ont expressément stipulé que les méthodes mathématiques et statistiques utilisant les modèles connus à l'époque ne pouvaient pas prévoir avec un degré de probabilité élevé des processus et événements rares, encore moins uniques ou fondamentalement nouveaux. De nouvelles méthodes mathématiques-statistiques ne sont pas apparues et jusqu'à ce jour. Si nous n'essayons pas d'imposer la fonction IA du prédicteur et de la machine qui prend les décisions finales, et de l'utiliser pour la reconnaissance (notamment sur la base de données, d'événements, d'objets, de sujets bruyants, etc.

Par exemple, au tout début du mois d'avril 2020, le gouverneur de Californie Gary Newsom a utilisé BlueDot pour reconnaître les sources potentielles de propagation du virus en se basant sur de vastes ensembles de données caractérisant non seulement les personnes vivant dans l'État, mais aussi diverses caractéristiques des lieux individuels, jusqu'aux quartiers, ainsi que l'état sanitaire dans certaines zones.

L'IA n'est pas utilisée par le gouverneur pour prévoir l'épidémie, mais pour fournir aux épidémiologistes, aux administrateurs et aux financiers des données de base leur permettant de concentrer leur attention sur les machines médicales, la police, les bénévoles et de financer ces activités pour des zones et des districts spécifiques de l'État. En d'autres termes, l'IA est utilisée pour faire ce qu'elle fait bien, à savoir classer et trouver de nouveaux critères non évidents pour cette classification en plus des critères traditionnels.

7) Il est utilisé pour ce qu'il fait de mieux, à savoir classer et trouver de nouveaux critères qui ne sont pas évidents, en plus des critères traditionnels. Il y aura des conséquences involontaires

En règle générale, la mise en œuvre de l'IA a des conséquences inquiétantes de second ordre, au-delà des solutions d'une tâche spécifique, que visent les complexes logiciels et matériels. Par exemple, permettre à l'IA de faire des prédictions, sans parler de prendre des décisions, implique une accumulation de données peu sûre et particulièrement sensible aux personnes. Un accès large, essentiellement non contrôlé, à des informations médicales, thérapeutiques et, dans certains cas, juridiquement sensibles peut, d'une part, transférer aux sociétés de logiciels des données qui ne sont pas acceptables du point de vue des personnes et de la société et, d'autre part, être une proie bienvenue pour l'exploitation cybercriminelle et les fuites potentielles.

Pour information :

Le 16 avril 2020, Tonya Ugorets, directrice adjointe du FBI pour la cybercriminalité, a déclaré que des pirates informatiques agissant pour le compte de pays étrangers avaient piraté les réseaux d'entreprises américaines menant des recherches sur COVID-19. Elle en a parlé aux participants lors d'une discussion en ligne organisée par le Washington Aspen Institute.

Ugorets n'a pas précisé les noms des groupes de hackers et des États dont les intérêts étaient servis par des cybercriminels :

Il y a eu plusieurs intrusions dans les réseaux de certaines institutions, en particulier celles qui ont annoncé publiquement qu'elles menaient des recherches liées à COVID - 19.

M. Ugorets a noté que les institutions qui travaillent à la mise au point de thérapies prometteuses ou de vaccins potentiels étaient certainement intéressées à faire connaître leurs activités. Cependant, dans ce cas, a-t-elle dit, ces institutions commencent à s'intéresser à "d'autres États intéressés par la collecte de détails" sur les recherches menées et peut-être même à "voler des informations confidentielles que ces institutions possèdent".

Le représentant du FBI a ajouté que les groupes de hackers soutenus par des gouvernements étrangers s'attaquent souvent à l'industrie biopharmaceutique, et que ces attaques ne font que s'intensifier depuis la crise actuelle de la pandémie de coronavirus.

Dans un monde où les pirates informatiques s'infiltrent même dans les ordinateurs de la NSA, le transfert d'IA pour calculer des données détaillées sur les statistiques médicales et les soins de santé, qui est lui-même très risqué, pourrait devenir une menace géante pour la sécurité nationale si les données sont trouvées dans des terroristes et des États malveillants. Par exemple, l'utilisation active mais inefficace de l'IA pour lutter contre le coronavirus a déjà permis de fournir non seulement aux plus grandes entreprises, mais aussi à de jeunes et prometteuses start-up, des données extrêmement sensibles telles que des statistiques médicales, des informations sur les déplacements des personnes au niveau mondial, national et même urbain, les personnes avec lesquelles elles communiquent, les lieux qu'elles visitent, etc.

Pour votre information :

Apple et Google, qui ont uni leurs forces pour lutter contre la pandémie, promettent de développer des interfaces qui seront disponibles pour tous les pays et régions d'ici à la mi-mai 2020.

Cependant, les plans des géants de la technologie inquiètent les experts qui pensent que la technologie peut donner aux autorités et aux entreprises un contrôle sans précédent sur les citoyens, et que les tests des utilisateurs et les dossiers médicaux peuvent tomber entre les mains des compagnies d'assurance et pharmaceutiques, ainsi que des criminels et des terroristes.

La technologie annoncée par les entreprises fonctionnera grâce aux signaux Bluetooth de deux téléphones, qui gardent une trace des contacts étroits et longs. Si un utilisateur confirme la présence d'un coronavirus, le système envoie une notification à ses contacts proches récents - mais le nom de la personne qui a été infectée n'est pas divulgué.

C'est le principe qui sous-tend TraceTogether, une application basée à Singapour qui est devenue un modèle pour tous les Occidentaux.

Apple et Google s'engagent à protéger la vie privée des utilisateurs : toutes les données collectées seront stockées dans le téléphone et ne pourront être partagées avec quiconque sans le consentement de l'utilisateur. Contrairement aux technologies utilisées en Israël, en Chine, en Corée du Sud et à Taïwan, ce système ne suit pas les données de localisation GPS.

Ils assurent qu'il n'y aura pas de base de données centralisée unique.

Lors d'une réunion d'information avec des journalistes spécialisés dans la technologie, lundi, les entreprises ont expliqué qu'elles allaient rendre le suivi numérique des contacts disponible grâce à des mises à jour du système d'exploitation - iOS 13 pour les iPhones et iPads et Google Play Services (élément Android).

Ainsi, la fonction sera automatiquement disponible pour tous les propriétaires de téléphones Apple et de smartphones Android à partir de la version 6.0 - mais restera volontaire, ainsi que les applications.

Cette solution est la réponse clé au principal problème de la recherche numérique des contacts. Pour qu'il fonctionne efficacement, les autorités doivent surveiller la majorité de la population (60%, selon les scientifiques d'Oxford). Cependant, à peine plus de la moitié des citoyens de tous les pays téléchargent eux-mêmes la demande officielle auprès des autorités. D'autre part, une fonction intégrée au système téléphonique, qui peut être lancée instantanément, peut être plus populaire.

Apple et Google ont publié des interfaces logicielles que les autorités sanitaires de différents pays pourront intégrer dans leurs propres applications. Ces interfaces ne seront accessibles qu'aux autorités sanitaires officielles des différents pays et régions. Des projets visant à utiliser ces développements ont déjà été annoncés au Service national de santé britannique.

Déjà après cela, les sociétés publieront des mises à jour des systèmes d'exploitation, et il sera alors possible de suivre les contacts sans installer une application spéciale.

Toutefois, le système ne fonctionnera pas du tout sans applications : le système d'exploitation pourra envoyer un signal indiquant qu'un contact proche a été infecté, mais pour obtenir des instructions supplémentaires, l'utilisateur devra télécharger l'application locale.

La question du diagnostic est presque le principal dilemme de la recherche numérique des contacts. Si l'utilisateur peut se le mettre lui-même, la technologie sera sabotée par tout le monde.

Mais si un diagnostic est lié à une analyse, tout le système n'a aucun sens - seuls les patients hospitalisés, les politiciens et les célébrités sont testés en Occident ; tester 60% de la population semble impossible dans un avenir prévisible.

Les sociétés ont répondu que pour informer les contacts de leurs développements, il sera nécessaire de confirmer le diagnostic du service médical. Mais ce n'est pas seulement une question d'analyse - il pourrait s'agir d'un diagnostic d'un médecin agréé basé, par exemple, sur des symptômes.

Actuellement, de nombreuses personnes envisagent sérieusement d'utiliser l'expérience chinoise en matière de contrôle social pour lutter contre la criminalité, optimiser la gestion et résoudre avec succès les situations d'urgence. Si l'on ne tient pas compte des nombreuses publications scientifiques et médiatiques sur ce sujet, il faut noter que non seulement l'efficacité du système de contrôle social en Chine est actuellement incertaine, mais aussi le rôle de l'IA et de la DB dans ce système.

Il semble qu'en réalité, le système de contrôle social ne concerne pas l'IA et la DB, mais la connexion de l'État policier avec le système de vidéosurveillance total et l'analyse des résultats de la vidéosurveillance selon les critères choisis par les dirigeants chinois. L'essentiel dans cette affaire n'est pas l'IA et la DB, mais Big Brother et la surveillance vidéo totale. Avec la capacité appropriée des réseaux informatiques, cette tâche est résolue dans le cadre des logiciels et des méthodes algorithmiques développés par les mathématiques dans les années 60-80 du siècle dernier.

L'IA et la DB sont des jouets de marketing particuliers et, en même temps, les chiffres détournent l'attention des analystes et du public de la véritable essence du système de contrôle social.

La conclusion selon laquelle l'IA est aujourd'hui principalement un système de collecte, d'accumulation et de reconnaissance ou de classification de certains modèles est confirmée par l'expérience de Palantir. On sait que Palantir a commencé à être utilisé efficacement dans les activités de renseignement, de police et de finance bien avant le boom de l'IA et des bases de données, pendant la période où l'on vendait au public et aux entreprises de grandes solutions de données comme innovation la plus avancée. La même plate-forme continue d'être utilisée aujourd'hui avec beaucoup de succès, mais le fabricant l'appelle désormais non pas plate-forme numérique, mais système d'IA avancé.

8) L'IA et les préjugés.

La plus grande préoccupation liée à l'utilisation de l'IA est peut-être le biais. Comme l'IA dans les logiciels est principalement formée par des machines et des réseaux de neurones profondément enracinés, des données incorrectes introduisent un biais dans son travail. Généralement, les défenseurs de l'AI rejettent les accusations de partialité des données, par exemple contre les femmes, les minorités raciales ou linguistiques, parce que tant la formation que l'exploitation n'utilisent que des données réelles et fiables, et non des données fictives.

Les développeurs, cependant, sont rusés ou ont une mauvaise compréhension des processus sociaux. Les processus sociaux diffèrent des processus naturels et biologiques à un rythme beaucoup plus élevé. Par conséquent, ce qui est vrai aujourd'hui était faux hier et vice versa. Ainsi, si un certain groupe minoritaire a modifié son comportement en raison de certains facteurs, cela aura peu de sens pour l'IA. Il a été formé sur la base de données anciennes, c'est-à-dire d'informations sur ce qui s'est passé hier et ce qui a changé aujourd'hui. Si de tels écarts ne nuisent pas à l'analyse, et sont peut-être même utiles pour attirer l'attention sur le fond du problème, ils rendent les décisions et les prévisions biaisées. Il est juste de conclure qu'un sceptique informé en matière d'IA doit adhérer à l'hypothèse que tous les modèles d'IA sont biaisés, sauf preuve contraire.

L'avenir de l'IA et de la DB est un scepticisme sain.

Malgré les aspects critiques de l'utilisation actuelle de l'IA et de la DB en réponse à la pandémie, le développement futur de l'IA et de la DB semble optimiste et capable d'apporter une aide croissante aux décideurs, aux experts et aux utilisateurs. Une fois la lutte contre les coronavirus terminée, il est nécessaire de procéder à une analyse détaillée des méthodes d'analyse et de prévision utilisées et, sur la base de cette analyse, de tirer des conclusions sur la manière d'améliorer encore l'IA et la DB afin d'accroître sa valeur pour les décideurs, les analystes et les utilisateurs.

L'IA et la DB constituent un ensemble technologique en évolution rapide. Cependant, les autorités, le public et les entreprises doivent clairement distinguer la fonctionnalité réelle de l'IA et de la DB des évaluations intentionnellement optimistes à des fins de marketing et d'investissement.

Les résultats de l'utilisation de l'IA contre COVID-19 tueront les espoirs iridescents et excessifs pour l'IA. Elle ne sera plus considérée comme un maître du monde et un avenir radieux pour l'ensemble de l'humanité. Cependant, un enfant ne peut pas être jeté avec de l'eau. L'IA est non seulement extrêmement efficace, mais elle est aussi nettement supérieure à la capacité et à l'aptitude humaines en ce qui concerne la vitesse de calcul. Par conséquent, dans les cas où la tâche consiste à détecter dans d'énormes ensembles de données ces objets ou d'autres objets et sujets, à reconnaître des régularités non perçues à première vue, à optimiser par les règles données ces objets ou d'autres processus, l'IA ne peut être remplacée.

***

En 1970, l'ancien éclaireur soviétique et scientifique de renom Julian Shanin a publié un livre visionnaire intitulé "Integral Intelligence". Il y a 50 ans, il y a décrit les étapes fondamentales de la formation, du développement et de la distribution de l'IA basée sur les technologies de l'information et de la communication, diverses, y compris le calcul parallèle et distribué et les bases de données. En même temps, selon Mme Shanin, l'IA devrait être intégrée dans un premier temps à l'intellect humain, non seulement au niveau des individus et des groupes, mais aussi au niveau de réseaux d'experts entiers. L'accent dans l'intellect intégral (c'est ainsi que Shanin appelait le système mondial homme-machine - maintenant Internet) devrait être mis sur le créateur, le fabricant, et non sur l'utilisateur et le consommateur. En d'autres termes, l'intelligence intégrale devait devenir, tout d'abord, un ensemble de systèmes experts d'aide à la décision, et, ensuite, un fournisseur de divertissement, de contenu, de commerce électronique, etc.

La rapidité et la sincérité avec lesquelles les décideurs, les développeurs et les utilisateurs de l'IA renonceront à commercialiser des jouets et se concentreront sur la combinaison des forces de l'homme et de la machine dépendent de notre avenir.

Elena Larina

http://hrazvedka.ru

Larina Elena Sergeevna (née en 1964) - entrepreneur, analyste, professeur. Membre permanent du Club d'Izborsk. Née, étudié et travaillé à Moscou. Elle a fait ses études supérieures en économie et en droit, respectivement, à l'Université russe d'économie Lomonosov. Elle a fait ses études supérieures en économie et en droit à l'Université russe d'économie Plekhanov et à l'Institut Plekhanov de droit international et d'économie. Diplômée de l'Université russe d'économie du nom de G.V. Plekhanov et de l'Institut A.S. Griboyedov de droit international et d'économie, respectivement. Elle est PDG de Personalinvest et co-fondatrice de Highrest.

Traduit du russe par Le Rouge et le Blanc.