Tête à Tech

Episode 74: De l'imaginaire au reel - Les financements obscurs de l'Europe: Le cas iBorderCtrl

Episode Summary

Dans cet épisode, Awa et Jeremy se posent pour parler d'imaginaire collectif et de l'utilisation de pseudo-sciences dans le contrôle des frontières par l'Union Européenne.

Episode Notes

Dans cet épisode, Awa et Jeremy se posent pour parler de d'imaginaire collectif et de contrôle des frontières par l'Union Européenne. 

Envie de discuter? On est dispo sur nos twitter persos @YepItsJeremy et @TechnicallyAwa ou sur @TeteATechShow.

Soyez team ⭐⭐⭐⭐⭐ sur iTunes.

Vous pouvez regarder Jeremy jouer à des jeux vidéos sur sa chaine Twitch.

De l'imaginaire au réel

Quand l'Europe finance des projets de surveillance généralisé des frontières

Episode Transcription

Awa: des imaginaires co-optés par des milliardaires jusqu'à leur mise en place 

La semaine dernière, tu m'as partagé un article assez déstabilisant.

Il racontait comment un projet de loi au Nevada prévoyait de créer de nouvelles zones commerciales qui permettraient aux entreprises tech de former des gouvernements locaux distincts.

Avec la crise, l'état du Nevada prépare la relance avec ces "zones d'innovation" qui devraient rendre le territoire plus attractif.

Ces zones permettraient aux entreprises possédant de grandes superficies de terres de former des gouvernements ayant la même autorité que les comtés. Cela veut dire, créer des impôts et taxes, de former des zones scolaires et des tribunaux et de fournir des services gouvernementaux.

Le gouverneur du Nevada a nommé Blockchains, LLC comme une entreprise qui s'était engagée à développer une "smart city" dans une zone à l'est de Reno après l'adoption de la loi.

Au delà de la relance économique, je me suis demandé quels types de villes et de territoires pourraient être développées par ces entreprises tech qui sont le focus de notre podcast quand même. Quel avenir nous est promis

L'année dernière, je parlais déjà ici de la tentative complètement ratée du CEO de Salesforce de régler le problème des personnes sans-abris à San Francisco.

Un autre exemple plus récent est celui du Pacific Dawn.

L'année dernière, un groupe d'investisseurs en cryptomonnaies a acheté un paquebot de croisière désaffecté, le Pacific Dawn, et l'a rebaptisé MS Satoshi, en l'honneur du prétendu créateur ou créatrice du Bitcoin. Les investisseurs étaient membres de la communauté "seasteading", un mouvement expérimental qui veut créer des villes-états autonomes et flottantes dans les eaux internationales. Devine quel milliardaire de la Silicon Valley était derrière ça? Peter Thiel, qui se décrit lui-même comme un anarcho-capitaliste, est un des principaux partisans de ce mouvement.

Juste pour info, le projet MS Satoshi a été un échec. Le navire a été vendu en pièces détachées en décembre, après que les propriétaires du navire aient été incapables d'obtenir une assurance pour leur voyage dans les eaux internationales.

Cela fait plusieurs années qu'une majorité des idées convaincantes et visibles sur ce que sera demain sont conçues et développées par une infime minorité d'individus ultra-riches et d'entreprises du secteur privé.

Comme toute bonne idéologie, ce futurisme privatisé touche à tout, des infrastructures mondiales aux appareils de cuisine. Les rendering 3D de SpaceX et qui te montrent des colonies toutes de verre sur Mars, ou le projet du chômeur Jeff Bezos de colonies spatiales flottantes. Quand on redescend sur Terre, le projet Hyperloop One de Richard Branson, le patron de Virgin que j'ai vu dans je ne sais combien de rapports CES et d'études pours les collectivités. Uber, imaginait des taxis volants qui font la navette entre les toits, a dévoilé 16 propositions de "skyports" conçus par d'importants cabinets d'architecture d'entreprise. Si on descend un niveau encore plus bas, la société de Musk, Boring Company promet des temps de trajet plus courts, grâce à des sortes de trains sous terrains. Et dans nos maisons on nous vend le potentiel de Nest et Alexa.

Ces projets utilisent souvent des images fantastiques pour inspirer l'imagination du public et pour établir un consensus autour de ces visions. Le soucis c'est que contrairement aux propositions qui étaient considérées avant-gardistes dans le passé et produites par un "public" d'universitaires, d'artistes et d'agences gouvernementales - le "futur" d'aujourd'hui est presque entièrement inventé par des entreprises privées appartenant à des milliardaires tech.

Si ces entreprises contrôlent notre imaginaire du futur, elles contrôlent donc l'avenir lui-même.

Jacques Sémelin, historien et directeur de recherche au CNRS qui a longtemps étudié les génocides et les massacres parle beaucoup de l'importance des imaginaires collectifs. Dans le cas des génocides, il dit que l'imaginaire collectif conditionne la mise en œuvre d’une politique d’extermination. Il n’est donc pas coupé de la réalité du monde.

On va revenir aux boites tech, je partagerai un lien vers le livre de Jacque Sémelin.

En fin de compte, elles définiront le mode de fonctionnement de la société. Des plateformes comme Amazon Web Services, Facebook et Robinhood sont devenues des infrastructures massives qui contrôlent une grande partie de notre économie et de la sphère publique.

Nous devons, c'est indispensable, sortir de ces menottes mentales. Quand je dis nous, c'est tout le monde.

Par exemple, arrêtons de juste penser à comment réguler les actions de Facebook, et réfléchissons à juste démanteler l'entreprise et construire d'autres modes de communications.

Nous devons envisager un avenir plus public et plus collectif, où la main invisible du marché n'est pas la seule à tout dicter.

Si vous voulez réfléchir à un futur qui sort de l'ordinaire, je vous invite à me rejoindre vendredi 19 à 18h sur Fortnite pour penser ce que pourrait être une banlieue du turfu afrocyberféministe

 

Jeremy: Quand l'Europe finance des projets de surveillance généralisé des frontières

Parfois, je marche dans les rues virtuelles de Clubhouse comme un jeune techos connecté et je me fais arrêter par mes haters qui me disent "Ouais Jeremy, vas-y là, arrête de trikiter la silicon valley, nous aussi en Europe on fait du caca, parle de notre caca, vive le caca européen, le caca SOUVERAIN"...

Parlons donc du projet iBorderCtrl (ouais on n'est pas ouf sur les noms en Europe), financé à hauteur de 4.5 millions d'euro par Horizon 2020 le plus grand programme Européen de recherche et innovation.

Aîe

Border

Control

Déjà au nom tu sais que ça va être de la grosse daubasse. En quelques mots, ce projet cherchait, je dis cherchait car le financement s'est arrêté en 2019, à construire une intelligence artificielle permettant de détecter les mensonges des personnes voulant franchir la frontière européenne. Nous avons déjà parler dans le podcast de l'amour que porte certains chercheurs pour ressortir les pseudo-sciences les plus racistes du 19eme siècle, l'injecter dans une petite boite noire, coller un sticker "Intelligence Artificielle" et crier au génie.

On est tous familier par exemple avec le polygraphe, cet outil utilisé pour mesurer les réactions psychophysiologiques d'un individu lorsqu'il est interrogé afin de déterminer s'il dit la vérité ou s'il ment. Le principe étant que le fait de mentir provoque une réaction émotionnelle et s’accompagne de manifestations mesurables par le polygraphe. Évidemment, ça ne marche pas et même s'il aurait fallu une grande partie du 20eme siècle, les résultats d'un polygraphe ne permets plus de prouver si une personne ment ou pas devant la justice car... ça ne fonctionne pas en fait.

iBorderCtrl, c'est la même chose mais au lieu de brancher une machine sur une personne, c'est le traitement vidéo qui est supposé démontrer si une personne va mentir ou pas. Ray Bull, un professeur en criminologie de l'université de Derby décrit ce projet comme n'étant absolument pas crédible, en effet, il n'y aucune preuve que des tics inconscients ou des micro-gestes puissent être utilisé pour mesurer si une personne ment.

Le journal The Intercept avait pu tester le système iBorderlCtrl en 2019. Le système a accusé à tort le reporter d'avoir menti et si c'était un contrôle réel, le système aurait considéré que le reporter devrait passer des vérifications supplémentaires avant de pouvoir rentrer en Europe. Même si on ne peut pas généraliser l'efficacité du système sur un seul test, on va devoir faire avec vu qu'il est difficile d'obtenir plus d'information.

Et Il se trouve que je ne suis pas le seul à vouloir en savoir un peu plus. Depuis l'arrêt du projet en 2019, Patrick Breyer, député européen allemand qui a pris la succession du mandat de Julia Reda dont on a déjà parlé dans ce podcast cherche à comprendre pourquoi l'Europe finance un projet basé sur une pseudo-science, Quels sont les résultats de cette recherche, est-ce que projet va continuer à être financer sur le nouveau budget d'horizon 2020, budget qui pèse 100 milliards d'euro pour la période de 2021 à 2027.

C'est d'autant plus embarrassant que l'union européenne aime se draper dans certaines valeurs, la dignité humaine, la liberté, l'état de droit, le respect des droits de l'homme et l'éthique dans la recherche par exemple. Par exemple, toutes activités financées par Horizon 2020 doivent respecter les lois nationales, européennes et internationale ainsi que les différents traités des droits de l'Homme. De plus il est contractuellement obligatoire que les projets épousent certains standards éthiques.

Le contrôleur européen de la protection des données a d'ailleurs déjà sonné l'alarme en 2020 en constatant qu'il y a un désalignement entre la recherche financé par l'Europe et les lois de protection des données européenne et qu'il faut remettre en question les pratiques des entités privées qui agissent sous couvert de recherche basé sur l'intérêt commun.

Concernant le projet qui nous intéresse aujourd'hui, I Border Control, la commission européenne indique que les aspects éthiques du projet sont suivis et qu'une vérification a été faite en mars 2019. Mais comment ces vérifications sont faites ? C'est là que ça devient drôle. Quand une société répond à un appel d'offre de l'union européenne, la société doit indiquer s'il y a un risque éthique. Et seulement si la société indique qu'il peut y'avoir un souci que des experts sont appelés pour vérifier. En gros, si je réponds à un appel à projet, je peux faire ce que je veux sans vérification extérieure tant que je dis "TKT FRERRRRR"

Vous commencez à sentir l'hypocrisie ? D'un côté, on a la commissaire européenne à la société numérique qui t'explique que l'intelligence artificielle se doit d'être utilisé afin d'élevé la décision humaine et doit être utiliser de façon éthique... De l'autre, on arrose de thune des recherches sur une IA qui n'a aucun fondement scientifique. Même dans la foire aux questions sur ibordercontrol dot eu, c'est clairement annoncé qu'il n'existe pas de cadre légal supportant l'utilisation d'une intelligence artificielle dans la protection des frontières et qu'il faudrait donc une décision de l'EU pour changer tout ça.

Pour rajouter une couche, en plus de la vérification plus que légère de la science, du respect de la loi et des enjeux éthiques, aucun résultat n'est vérifiable. Quand ce type de projet est financé par horizon 2020, très peu d'information se doit d'être fourni et ces informations ne seront disponible que dans des années et des années. Autrement dit : Comme il n'y a aucune exigence de résultat, l'Europe peut arroser de thune toute une partie de la recherche basée sur de la pseudo-science et des croyances d'un autre siècle. Et ce n'est pas tout. Toute information qui aurait un impact négatif sur la possibilité de vendre la technologie ne peut pas être publié : En gros, toutes les informations commerciales dites sensible sont protégés. Donc on est au-delà de la simple exigence de résultat, si l'Europe finance un projet et qu'on découvre que c'est du vent, la société qui a fait cette recherche, pour protéger la possibilité de vendre une technologie qui ne marche pas, a le droit de refuser de divulguer des informations.

Imaginons que l'Europe décide de mettre en place cette technologie. Nous, en tant que citoyen européen, ne pouvons pas avoir accès à des informations de base comme... le taux de faux positif, le fonctionnement de l'IA, les études d'impact sur une discrimination potentielle... Tout ce qui peut donc être gênant pour la commercialisation du projet. Par-fait.

Au mieux, dans quelques années, un papier sera publié dans une revue scientifique avec aucune garantie que ce qui est raconté dans le papier est réel. Afin de lutter contre cette protection des intérêts commerciaux, Patrick Breyer argumente que le principe de transparence et d'accès à l'information sont des droits fondamentaux en Europe et que la législation liée à Horizon 2020 ne peut pas rentrer en conflit avec ces droits.

De plus, qui octroie le financement ? Des chercheurs indépendants qui vont vérifier si les projets sont utiles, respectent les lois et ont un impact positif sur l'Europe ? haha, bien sûr que non. Ce sont des représentant des états-membres et une grosse majorité de personnes sélectionné dans l'industrie. Donc, sans vouloir être cynique, autant dire que dès le départ ça sent le sapin pour les droits de l'homme et les valeurs humanistes de l'Europe.

Dernière blague ? Ils veulent utiliser la même structure opaque de bout en bout pour des projets sur la défense. Allez, YOLO, on finance le développement de technologie létales sans savoir qui sélectionne quoi, quels sont les résultats et surtout, sans empêcher les entreprises privées de revendre tout ça à tous les pays du monde, les Etats-Unis, la chine, les émirats, la Russie, et j'en passe.

Au final, j'ai envie de dire, c'est un peu ça la beauté du système européen, derrière les grands discours sur une 3eme voie, sur les valeurs communes de l'Europe, on finance on ne sait qui pour faire on ne sait quoi et surtout en n'exigeant aucune transparence ou résultat. Et c'est bien connu, si on demande gentiment aux acteurs privés de s'autoréguler et de prévenir avant de faire n'importe quoi, tout va bien se passer...

Ne t'inquiète pas... tout va bien se passer.