La gouvernance des plateformes, un jeu d’échecs tridimensionnels : conversation approfondie avec le professeur Kate Klonick

26 septembre 2024

Dans le sillage des récents événements transformateurs remodelant la gouvernance des plateformes, Can Şimşek a mené un entretien avec le professeur Kate Klonick, membre du comité scientifique de la chaire Digital, gouvernance et souveraineté. La transcription de cet échange fructueux approfondit la façon dont les récents incidents très médiatisés – allant de l’ affrontement d’Elon Musk avec le Brésil à son soutien au candidat présidentiel Trump, en passant par son insulte publique adressée à l’ancien commissaire européen Thierry Breton et l’arrestation du PDG de Telegram, Pavel Durov, avant les changements apportés à la politique de confidentialité de Telegram – se connectent et influencent la dynamique évolutive du paysage géopolitique et technologique. Un entretien qui traite de liberté d’expression, de cyber-libertarisme et de la gouvernance des plateformes.

Nous entendons souvent les PDG de plateformes invoquer le concept de « liberté d’expression » lorsqu’ils discutent ou s’opposent à des lois de modération de contenu telles que le DSA. Cette tension permanente pourrait-elle découler des différentes interprétations de la liberté d’expression dans l’UE et aux États-Unis ? Ou bien ce discours sur « l’absolutisme de la liberté d’expression » est-il de nature purement politique et sceptique ?

Avant de passer du temps dans l’UE, j’avais vraiment du mal à comprendre pourquoi il y avait tant de désaccords apparents ou pourquoi tant de lois étaient adoptées dans l’UE alors qu’aux États-Unis, nous serions réticents à l’égard de la limitation de la liberté d’expression. Je pense vraiment qu’il s’agit davantage d’un problème structurel de droit civil et gouvernemental et d’un problème normatif. C’est ainsi qu’on le comprend le mieux. Le premier amendement de la Constitution interdit au gouvernement d’adopter des lois susceptibles de restreindre la liberté d’expression des citoyens. Les tribunaux américains ont essentiellement interprété cette disposition comme signifiant que le gouvernement ne peut pas porter atteinte à presque n’importe quel discours. Les discours de haine sont légaux aux États-Unis. La pornographie, la pornographie extrême est légale aux États-Unis. Brûler un drapeau est légal aux États-Unis. Il y a beaucoup de choses qui sont légales aux États-Unis et qui pourraient être illégales en Europe ou ailleurs. Ce que cela signifie, c’est que les droits des citoyens sont protégés et qu’ils peuvent s’adresser au gouvernement. Cela provient de l’idée que la chose que vous devez craindre le plus, et c’est une chose très américaine, c’est que vous devez vraiment revenir à ce que vous avez fait jusqu’à présent. Il faut vraiment revenir à ce sur quoi l’Amérique a été fondée. Le gouvernement est venu après nous. Tout comme la couronne et l’Angleterre sont venues après les révolutionnaires, et la couronne est l’ennemi, le gouvernement est l’ennemi. Mais en même temps, les pères fondateurs reconnaissent que, bien sûr, nous avons besoin d’un gouvernement pour fonctionner. Cela fait partie de notre éducation civique, cela fait partie de la façon dont nous nous comprenons en tant que nation, c’est tout ; c’est une compréhension très culturelle. Le gouvernement est ce qui nous effraie le plus. Le gouvernement qui a les armes, qui a la force, qui a le pouvoir de police, qui nous poursuit et nous restreint. C’est en quelque sorte ce qui explique que les Américains puissent s’armer grâce au deuxième amendement et qu’ils puissent s’exprimer contre le gouvernement.

D’un autre côté, il n’y a pas une grande différence dans ce que vous êtes autorisé à dire dans l’UE. Ce n’est pas comme si on était arrêté pour avoir dit des choses en Europe. Je suis toujours étonné que l’Europe dans son ensemble ne se préoccupe pas davantage d’adopter une réglementation aussi ouverte que le DSA, qui a le pouvoir potentiel de restreindre ce que les entreprises peuvent faire, mais aussi ce que les citoyens peuvent faire sur les plates-formes. Deux générations se souviennent de la Seconde Guerre mondiale et de l’arrivée au pouvoir d’un gouvernement autocratique, ce qui me semble être exactement le type de situation que les Américains redoutent, à savoir un gouvernement qui espionne ses citoyens, un gouvernement qui devient autocratique par nature et qui utilise ensuite les lois contre ses citoyens. Je pense que cela place la barre à un niveau très bas pour expliquer pourquoi il y a un tel désaccord. Mais je suis d’accord avec vous. En fin de compte, il n’y a pas tant de différences que cela.

Je pense qu’il est en effet crucial de souligner les racines historiques de la liberté d’expression. Cependant, les progrès technologiques ajoutent une dimension entièrement nouvelle à cette question. L’échelle est immense, en particulier avec des plateformes mondiales comme X. Par exemple, les incidents impliquant des insultes adressées à un commissaire européen ou des controverses au Brésil sont amplifiés, avec des effets de grande portée à l’échelle mondiale. Dans ce contexte, comment devrions-nous aborder et comprendre ces questions dans le monde d’aujourd’hui ?

La technologie modifie les fondements de l’opposition entre le peuple et le gouvernement. La technologie a ajouté un nouveau nœud. C’est une idée de Jack Balkin, de la faculté de droit de Yale. Il a publié un article intitulé « Free Speech is a Triangle » (La liberté d’expression est un triangle) qui, à mon avis, est une merveilleuse heuristique pour comprendre cette question. En particulier pour les États-Unis. Il s’agissait d’une relation dyadique entre les citoyens et le gouvernement autour de la liberté d’expression ; le gouvernement avait la botte de l’État, et les gens pouvaient riposter en votant et en s’exprimant. Les plateformes ajoutent un troisième nœud, n’est-ce pas ? Elles en font un triangle. C’est la raison de l’optimisme technologique et du pessimisme technologique. Tout d’un coup, vous avez un nouveau nœud. Vous pouvez vous adresser à ce tiers qui peut examiner les citoyens pour vous, et cela signifie également que vous pouvez contourner la censure parce que vous avez ce tiers qui peut vous permettre de contourner le gouvernement. Il s’agit essentiellement d’une idée très naturelle pour les États-Unis en particulier, avec la structure du premier amendement. Ce que le gouvernement peut restreindre laisse beaucoup d’espace aux entités privées, qu’il s’agisse de plateformes de presse, d’entreprises privées, de groupes de la société civile, d’universitaires ou d’autres entités du même genre, ce qui laisse beaucoup d’espace pour la création d’espaces d’expression et de lieux d’expression gérés par le secteur privé et non par le gouvernement. Ainsi, si vous êtes propriétaire d’un restaurant, vous pouvez décider des règles d’expression dans votre restaurant parce que vous n’êtes pas le gouvernement. Vous pouvez interdire les discours haineux dans votre restaurant, vous pouvez interdire les discours haineux sur votre plateforme numérique si vous le souhaitez. Vous avez ce droit. C’est pourquoi il y a beaucoup de discussions sur le fait que les plateformes ont leur propre droit au premier amendement en tant que plateformes « privées ». Je pense qu’il s’agit d’une idée tout à fait naturelle, car elles disposent d’une plateforme de la manière qu’elles souhaitent. C’est le droit de créer cette plateforme qui est protégé contre le gouvernement. C’est sur ce point que mon travail a porté jusqu’à présent, à savoir comprendre ce qui se passe dans ce troisième nœud, essayer de comprendre ce qui se passe dans cet espace de gouvernance privée et organiser tout cela en concepts. Quelles sont les tendances, comment cela se passe-t-il ? Il s’agit de le comprendre d’un point de vue anthropologique, de le comprendre en tant que structure semi-juridique. C’est presque comme un type de structure juridique qui s’est mise en place.

Durov et Musk occupent tous deux ce troisième nœud et ce qui les préoccupe, de manière très différente, c’est le contrôle et la réponse au gouvernement et leur soi-disant préoccupation et réponse aux citoyens utilisateurs de leur site. Il s’agit d’un jeu différent, où la politique et l’économie de la situation sont en jeu. L’option technocratique légale, comme l’arrivée de la Commission européenne, n’est qu’une autre manifestation d’un mode de vie, une petite flexion du pouvoir afin de pouvoir continuer cette sorte de lutte constante entre ces trois parties.

Sommes-nous en train d’assister à un changement dans la manière dont ces troisièmes nœuds agissent ? Je pense que nous assistons à une fragmentation des plateformes sociales en fonction des opinions politiques de leurs propriétaires. Avant Musk, Twitter semblait être un espace public plutôt neutre. Musk a-t-il modifié cette dynamique ou les plateformes ont-elles toujours été gérées par leurs PDG ?

Ce que nous entendons par public et privé est très compliqué, car lorsque nous disons public, nous l’entendons dans le sens d’une publication et d’une diffusion à grande échelle. Aux États-Unis, nous utilisons le terme « public » pour désigner les entreprises gérées par le gouvernement. Par ailleurs, le fait d’être une « société cotée en bourse » signifie que l’entreprise est cotée à la bourse de New York et qu’elle est soumise aux lois du gouvernement, à un conseil d’administration et à ses actionnaires. Il y a toute une série d’autres obligations et maintenant, ce qui est vraiment compliqué, à des fins de gouvernance et de technocratie juridique, X est une société privée et non plus une société cotée en bourse ; c’est une plateforme privée qui diffuse publiquement des informations à des particuliers. Donc, oui, du point de vue de la communication ou des médias, je pense que l’impression que vous avez de X en tant qu’espace public est celle d’une plateforme publique.

Ce que la plupart des gens diraient et ce que beaucoup de mes travaux ont montré, c’est que nous suivions en fait les caprices de Mark Zuckerberg, de Jack Dorsey, avant Elon Musk, et de quiconque était responsable d’Alphabet ou de Microsoft ou d’autre chose, ou de Cloudflare Matthew Prince. En réalité, nous l’étions, mais ils n’étaient pas très transparents à ce sujet. Maintenant, Musk a fait une sorte de figure à laquelle on ne croirait pas. L’histoire est sortie de cette sorte de puits… J’ai l’impression que les actions d’Elon Musk ont baissé, et je ne parle pas littéralement de toutes ses entreprises. Il était considéré comme un génie absolu et maintenant il n’est plus que quelqu’un qui poste des mèmes sur X et des mauvaises blagues à ses followers. Je pense que c’est un moment très intéressant parce que, pour répondre à votre question, moi et d’autres avons dit pendant des années que la raison pour laquelle il fallait une gouvernance de l’internet était : écoutez, ce que vous ne réalisez pas, c’est que tout cela est soumis aux caprices de quelques personnes dans la Silicon Valley.

Il n’y a pas de système de gouvernance pour ces espaces quasi-publics, ces « espaces publics » comme vous dites se sentent publics ; il n’y a pas de type de réactivité, il n’y a pas de structure démocratique pour que les gens ou les individus puissent répondre aux personnes qui établissent les règles qui régissent ces espaces privés. À un certain moment, cela devient si incroyablement public que cela devient une partie essentielle de votre liberté d’expression. Il doit y avoir une réponse aux gens et il doit y avoir une réactivité dans un système. Les PDG peuvent devenir la loi de la plateforme et c’est exactement le problème.

C’est un biais psychologique classique que de penser que parce que l’on voit quelque chose, cela a commencé à se produire. Ce n’est pas vrai. Avant, cela se passait depuis des années et des années et depuis le début, mais Elon nous a montré que c’est vraiment en train de se produire.

D’une certaine manière, c’est une bonne chose que Musk ne soit pas discret à ce sujet. Les gens sont de plus en plus conscients de cette situation, n’est-ce pas ? Cette question de la réactivité nous ramène à l’affaire Pavel Durov. Cette situation n’est pas principalement liée au cryptage – puisque Telegram n’est pas entièrement crypté – ni aux politiques de modération. Il s’agit plutôt d’une enquête criminelle préliminaire. Comment interprétez-vous l’arrestation de Durov et les événements qui ont suivi ?

Je pense qu’Elon Musk et Pavel Durov sont deux êtres humains mégalomanes qui pensent que la plateforme technologique dans son ensemble leur permet d’exprimer ou d’actualiser leurs idées libertaires et de faire un pied de nez au gouvernement, ce qui n’est pas nouveau. Nous avons connu un internet né d’un moment techno-utopique, comme l’idée de John Perry Barlow de « nous allons emmerder le gouvernement et laisser le gouvernement se faire emmerder » ; c’est le moment pour nous de saisir nos droits en tant qu’individus. Internet serait un paysage infernal s’il n’y avait pas de règles et de réglementations. Sans gouvernance, Internet serait illisible. Il faut organiser des conversations publiques, il faut que les gens voient ce qu’ils veulent entendre, ils ne veulent pas d’un tuyau d’arrosage d’informations. Même la création d’une application est une structure. C’est une infrastructure que vous créez pour inviter les gens à avoir un type de conversation lisible.

Parlons un instant des documents relatifs aux abus sexuels commis sur des enfants (CSAM). Les contenus pédopornographiques sont le pire des pires contenus de l’internet. C’est l’une des premières choses qui sont apparues sur l’internet. Les gens essaient de trouver un moyen de contourner le gouvernement qui interdit très sévèrement ce type de matériel et il s’agit d’un discours criminalisé qui n’est donc pas protégé par le premier amendement. Le développement de PhotoDNA a constitué une avancée considérable dans ce domaine. Nous sommes en mesure d’identifier ces contenus très rapidement par le biais des plateformes. Personne qui ne soit pas lui-même un abuseur sexuel d’enfants n’est un partisan de CSAM. Il est très facile pour tout le monde de se mettre d’accord sur ce point à un niveau normatif et culturel. Cela ne vaut pas la peine d’aller au tapis pour les abuseurs sexuels d’enfants, n’est-ce pas ? Dans un combat, personne ne veut que les abuseurs sexuels d’enfants gagnent. Nous avons simplement décidé qu’il s’agissait d’une activité criminelle.

Il est devenu très facile de se conformer aux lois sur les matériels d’abus sexuel d’enfants grâce à des avancées technologiques telles que PhotoDNA. La plupart des sites Internet respectent donc les lois sur le matériel pédopornographique.

Telegram, comme vous le soulignez, n’est pas une plateforme entièrement cryptée. Il s’agit d’une plateforme à multiples facettes, avec de multiples façons de communiquer très bruyamment et publiquement, mais aussi de façon très privée, et de différentes manières. Vous avez une fonction de type message, des chats secrets qui sont supposés être cryptés bien qu’ils n’aient jamais publié leur clé et dit comment ils le font, c’est la partie qui est la plus cryptée et qu’ils protègent vraiment. Mais il y a des éléments de diffusion publique, comme sur Facebook Live, et il y a d’autres types de discussions de groupe qui ne sont pas cryptées. Durov a fait de son entreprise politique, de sa vente de la plateforme un espace de liberté. L’aspect libertaire n’est que du marketing. Durov a pris position parce qu’il considère que la plus grande menace est l’utilisation des plateformes par les gouvernements pour surveiller les citoyens. C’est sa position : nous ne répondrons pas aux citations à comparaître ; nous ne répondrons même pas aux demandes de CSAM ou aux demandes de rapports, car nous considérons que c’est la pente glissante pour répondre à n’importe quel type de demande. Maintenant, pour être juste, beaucoup de plateformes s’occupent de cette pente glissante ; c’est très compliqué et cela nécessite beaucoup de technologie et d’embauches. Cela crée un jeu de poule mouillée avec les gouvernements du monde entier qui veulent vraiment le poursuivre pour avoir exploité une plateforme qui diffuse du CSAM, le pire du pire, et du contenu terroriste extrémiste. Durov a atterri en France et s’est en quelque sorte rendu en disant : « D’accord, je vais pousser ce problème un peu plus loin ». C’est littéralement un jeu de poule mouillée. Ensuite, nous avons vu Telegram revoir entièrement sa position au cours des deux dernières semaines. C’est donc en fin de compte un moment très intéressant. Comme je l’ai déjà dit, les trois nœuds du pouvoir sont en jeu. Le fait que le gouvernement puisse forcer l’un de ces nœuds à capituler, même si je reconnais que Telegram est une application terrible et qu’elle fait beaucoup de choses terribles, peut être considéré comme une attaque contre les droits, les options et la liberté des utilisateurs.

Lorsque l’on considère le pouvoir des plateformes, il convient de noter qu’elles disposent souvent d’un levier supplémentaire. Par exemple, les plateformes peuvent potentiellement menacer de se retirer des marchés ou d’attaquer des organismes de réglementation comme l’UE si leurs demandes ne sont pas satisfaites. Pensez-vous que la rhétorique libertaire utilisée dans le marketing de ces plateformes soit valable ? Se défendent-elles ou cherchent-elles à faire des compromis en coulisses ?

Les négociations en coulisses sont plus efficaces, elles empêchent tout cela de se produire. C’est le cas dans presque tous les gouvernements du monde. Le lobbying de différents groupes d’intérêt et de différentes personnes permet de modifier les choses avant qu’elles ne deviennent des lois ou de changer leur signification après qu’elles soient devenues des lois, ou encore de parvenir à un accord. Tout cela coûte cher. Je n’arrête pas de parler de jeu de la poule mouillée. Le jeu de la poule mouillée, c’est continuer à bluffer, c’est continuer à être celui qui va finalement être renversé par la voiture, et on ne sait pas très bien comment cela va se passer. I

Vous pouvez dire tout ce que vous voulez, mais l’économie ou le fait de passer des années en prison lorsqu’on est PDG d’une entreprise seront les leviers qui auront le plus de poids. Nous avons vu beaucoup de reportages à ce sujet au cours des deux dernières semaines, le nombre d’amendes infligées par l’UE, non seulement pour l’ASD, mais aussi pour toutes sortes de décisions de justice, les poursuites antitrust, etc. Il ne s’agit pas de se retirer de l’Europe par principe. Mais peut-être qu’il ne sera plus rentable d’opérer en Europe. La gouvernance numérique en général est très intéressante. C’est comme un jeu d’échecs en trois dimensions. Il faut constamment faire la différence entre la menace et la réalité de l’application de la loi, puis entre le pouvoir de la loi et les conditions économiques très réelles qui sont le moteur des entreprises à but lucratif, et enfin les idéaux chimériques des PDG mégalomanes, ce qu’ils sont prêts à risquer et ce que leurs avocats leur disent qu’ils sont prêts à risquer.

Ce qui m’intéresse le plus, en tant que personne qui étudie cette question, c’est le moment choisi pour l’affaire Durov et l’affaire Musk. Le moment de l’affaire Durov France, où les défenseurs des libertés civiles se sont dits : « Pouvez-vous croire qu’ils s’en prennent à un PDG ? C’est mauvais pour la liberté d’expression » et se sont retrouvés à défendre à moitié Durov, mais ensuite pour le pire type de discours imaginable. Je pense que la plupart des gens peuvent dire que Telegram devrait se conformer à des choses comme le CSAM et l’état de droit dans les pays où il opère, mais cela devient une question vraiment difficile une fois que vous êtes dans des pays autocratiques et des endroits qui ne protègent pas leurs citoyens. On peut considérer Durov comme un méchant ou un héros, mais il en va de même pour Elon Musk. C’est la question qui se pose au Brésil. Il s’agit d’une démocratie douce, avec de nombreux types de normes. Nous avons exactement le même type de situation ici, c’est-à-dire que vous avez quelques juges en France et au Brésil, qui ont émis indépendamment ces ordonnances contre ces plateformes et contre ces individus. Et Elon Musk s’oppose au Brésil. Est-il un héros de la liberté d’expression ou devrait-il se contenter de respecter la loi ? Ce dont nous avons très peu parlé, c’est de ce que veulent les consommateurs individuels et s’ils approuvent ou non toutes ces demandes gouvernementales d’assignation à comparaître ou ce que la plateforme fait ou ne fait pas. Il n’y a pas de mécanisme d’action collective pour saisir cela. C’est l’économie et la politique qui mènent la danse, et pas du tout la voix des consommateurs individuels et des citoyens qui dépendent de ces plateformes.

Kate Klonick est professeur associée de droit à la St. John’s University Law School (New York), Affiliate Fellow à l’Information Society Project de la Yale Law School (Connecticut), Non resident Fellow à la Brookings Institution ; au cours de l’année universitaire 2022-2023, elle était Visiting Scholar à la Rebooting Social Media Initiative de l’Université de Harvard (Massachusetts).