David Fathi : « Le détournement, l’IA ne sont que des méthodes pour essayer de recontextualiser et repenser les images. »

David Fathi : « Le détournement, l'IA ne sont que des méthodes pour essayer de recontextualiser et repenser les images. »

Découvert à l’occasion d’unRepresented by Approche, un salon dédié aux artistes non représentés soutenus par une communauté de collectionneur·ses, David Fathi s’exprime au sujet de l’intelligence artificielle générative et de l’apprentissage automatique. À l’heure d’un tournant sans précédent, cet artiste et informaticien – un savant cynique et sensible – soulève des questions d’ordre artistiques, éthiques et sociales. Entretien avec celui qui a amorcé une collaboration avec l’IA en 2020.

Fisheye : Tu as obtenu un master en mathématique et en sciences informatiques, que fais-tu en parallèle de tes activités artistiques  et qu’est-ce qui t’a amené à la photographie ?

David Fathi : Je viens d’une famille de mathématiciens, mais je n’étais pas très bon là dedans, c’est pour ça que je me suis plutôt orienté vers l’informatique. Je suis actuellement chef de projet, et je compte garder cette double pratique, même si jongler entre les deux demande une certaine optimisation de l’emploi du temps.

J’ai toujours essayé de créer des choses, sans spécialement me projeter dans une pratique sérieuse. La photo est arrivée relativement naturellement du fait de sa simplicité apparente (mais fictive), au final un peu comme ces outils de création par intelligence artificielle. Mon travail informatique est assez éloigné de ma pratique artistique, néanmoins je pense qu’il m’a donné une certaine rigueur de pensée, et un attrait pour essayer de comprendre et parler de choses complexes.

La photographie n’est-elle donc qu’un outil dans le processus créatif ?

Pour moi c’est uniquement un outil, à utiliser ou à commenter. Je n’ai plus réellement d’affinité avec la photo comme pratique physique, mais je suis passionné par son résultat, par l’image photographique et comment elle nous influence.

Te souviens-tu de la première image qui t’a marqué ? Et de la première photographie ?

Je me souviens du premier vrai livre de photographie que j’ai ouvert et m’a marqué. C’était End Time City de Michael Ackerman. Au final très éloigné de ma pratique, mais ça m’a ouvert aux possibilités de l’image.

La première photo qui m’a marqué et m’a inspiré directement c’est l’image d’une explosion de bombe atomique prise par une caméra rapatronique. C’est un type d’appareil photo qui a dû être inventé pour pouvoir saisir les premières millisecondes après une explosion nucléaire. L’image m’a marqué, car elle ne ressemblait en rien au champignon atomique vu et revu, mais plutôt à un crâne humain.

Et qu’est-ce qui te passionne dans les sciences, plus précisément dans le sujet de la limite de la connaissance ? D’où t’es venue cette obsession ?

La connaissance humaine a aussi une limite purement physique, et donc tout ce que l’humain essaye de contrôler est voué à l’échec. Je veux dire par là que le cerveau humain est un objet physique, donc il y a forcément une limite physique à ce qu’on peut stocker, traiter, comprendre du monde. Notre cerveau est relativement petit par rapport à la complexité du monde. C’est aussi pour cela qu’on invente ces intelligences artificielles : il y a des scientifiques dont la peur est que l’humain arrive déjà à une limite de ce qu’on peut comprendre par nous même. 

© David Fathi© David Fathi

Pourquoi détournes-tu autant les images ? La réalité t’ennuie-t-elle ?

Non, la réalité est passionnante, je ne m’intéresse qu’aux histoires vraies même si elles paraissent fictionnelles. Le détournement, la retouche, l’IA, le collage , etc., ce ne sont que des méthodes pour essayer de décontextualiser et repenser les images qui nous entourent.

Quand as-tu amorcé ta collaboration avec l’IA ?

J’ai commencé cela il y a trois ans maintenant, en 2020, avec quelques expérimentations avec des GANs (Réseaux antagonistes génératifs, ndlr), puis en 2021 avec VQGAN+CLIP, un dialogue entre deux algorithmes différents, qui ont évolué des GANs pour permettre une meilleure compréhension des prompts par texte. J’ai découvert les possibilités des images générées en essayant de recréer le De Kooning effacé par Rauschenberg avec cet outil. C’était la première fois que je faisais quelque chose qui me paraissait avoir du potentiel et j’ai commencé à utiliser ces outils, en particulier DiscoDiffusion pour l’élaboration d’un projet (encore non terminé aujourd’hui) autour de Kim Jong-il.

Même en 2021 je n’étais pas prêt pour l’accélération qui s’est déroulée au printemps 2022, quand tout a explosé.

Concrètement, comment cela se manifeste dans ton quotidien ?

Les IA ont un impact sur notre quotidien depuis des dizaines d’années, mais les réseaux neuronaux tels qu’on l’entend maintenant ne sont utilisés que depuis peu. Pour le moment, je ne pense pas qu’au quotidien, ces nouveaux outils soient très utiles. Ils sont chaotiques, imprévisibles, et donc idéals pour la création artistique. Beaucoup moins pour la prévisibilité nécessaire à des outils du quotidien (au grand dam des GAFAM et de leurs milliards d’investissements). Par exemple, je n’utilise pas très souvent ChatGPT. C’est puissant mais je n’en ai pas encore trouvé l’utilité dans ma vie de tous les jours.

Tu as poursuivi tes réflexions dans deux séries The Machine seems to need a ghost et Prelude to the broken Ram ?

Prelude to the broken RAM était mon premier brouillon de réflexion sur l’IA. L’angle était autour de quatre dates clés : 1827 (la première photo de Niepce), 1917 (la Fontaine de Duchamp), 1997 (DeepBlue bat Kasparov au jeu d’échecs) et 2027 (un futur anticipatif). Le projet parle de la peur de l’obsolescence humaine.

The Machine Seems to Need a Ghost est un peu la finalité de cette réflexion, mais elle prend une forme tout autre. Je prends trois métaphores possibles autour de l’intelligence artificielle (le musée, le feedback loop, le trou noir) et je développe autour des possibilités et des limites de l’outil, et comment les images produites sont hantées par les images passées. Le livre sera publié lors des Rencontres d’Arles.

Que disent ces deux séries de ta réflexion sur l’évolution de la technologie et l’arrivée de l’IA dans le secteur de l’art ?

L’IA offre un potentiel créatif et présente des risques sociaux. Pour le secteur de l’art créatif et personnel, c’est parfait. On peut l’utiliser comme médium à part entière, ou simplement comme outil de brainstorming. Au final l’outil n’est qu’un assistant. L’intérêt est neutre, voire positif. Par contre pour tout un secteur d’art professionnel de commande (cinéma, pub, illustration, jeux vidéo, etc.), l’intelligence artificielle est une vraie menace. Il arrivera aux créatif·ves de ces secteurs la même chose qu’aux ouvrier·es, caissier·es, etc. Une diminution des budgets et des postes, une accélération de la demande de productivité, et une structure sociale inadaptée pour les reconversions rapides.

© David Fathi© David Fathi

Dans un de tes textes, tu dis que les images générées agissent comme un miroir, exagérant tous les stéréotypes et les préjugés de notre culture visuelle, peux-tu expliquer cela ?

Les intelligences artificielles de types réseau neuronal marchent en créant des connexions, et plus une connexion (visuelle, textuelle, etc.) est présente dans notre environnement, plus c’est facile pour une IA de la copier. Donc l’IA reproduira les stéréotypes déjà existant, et renforcera leur présence.

Par exemple si je tape « une personne » dans un générateur d’image, elle aura tendance à me représenter un homme blanc. Si je demande une femme, l’IA a plus de chance de me générer une femme dans un rôle sexy. Si je demande de générer une personne noire, on a plus de chance de générer une personne issue d’un milieu socio-économique pauvre.

Dans mon livre à paraitre, je m’intéresse en particulier au risque du feedback loop, car à terme, toutes les images que nous générerons vont réalimenter les bases de données qui réentraineront les futures intelligences artificielles, et ainsi de suite. Ce processus aura tendance à accroître encore plus les a priori de l’IA.

Considères-tu l’IA comme un artiste ?

Non. Il y  toujours une entreprise qui crée l’IA et un humain qui prompt (un prompt est une phrase de texte qu’une intelligence artificielle interprète pour produire un résultat pour générer une image). Cela sous-entend toujours des choix politiques et économiques ainsi qu’un acte humain de décision. L’IA peut-être créative, dans le sens où elle peut nous surprendre, mais cela reste vis-à-vis d’un référentiel de valeur humain.

Tu évoques les readymades dans ton travail. Sont-elles vraiment comparables aux créations générées par IA ?

C’est une métaphore utile. Nous pouvons maintenant créer des images sans connaissances techniques, ni informatiques, ni artistiques. Cela questionne l’œuvre, et la position de l’artiste, tout comme les readymades de Duchamp. Ce sont aussi des outils qui proviennent de l’automatisation et de l’industrialisation (numérique dans notre cas)

© David Fathi© David Fathi

Quid de l’imperfection ? Des ratés, qui parfois donnent lieu à des chefs-d’œuvre ?

Les images crées par réseaux neuronaux le sont par probabilité statistique, ont peut donc tomber sur des pas de côtés qui ressemblent à l’imperfection, le raté, l’erreur, etc. C’est là où je vois une petite lueur d’espoir (ou peut-être à l’inverse, cela veut dire que l’imperfection humaine peut aussi être simulée aussi mécaniquement).

Il y a plusieurs semaines, Amnesty Internationale a utilisé une image générée par une IA pour illustrer une campagne, plusieurs photographes et personnalités du monde du 8e art se sont indigné·es, quelle est ta position sur ce sujet ?

C’est catastrophique, mais ce n’est qu’un prolongement de la problématique des photographes de presse qui se sont mis à créer des images « World Press Photo », dans lesquelles la beauté et l’iconisme l’emportent sur l’information. Un peu comme le travail récent de Michael Christopher Brown, sur Cuba, généré par IA (90 Miles) qui est un exemple choquant et cynique de journalisme qui se fait manipuler par les stéréotypes de l’intelligence artificielle.

Il y a eu une autre tentative par un groupe d’avocats australien·nes qui ont utilisé l’IA pour illustrer les expériences de réfugié·es, mais cela a été fait avec beaucoup plus de finesse en collaboration avec les personnes concernées, et avec un vrai travail de contextualisation. Ce n’est donc pas impossible d’entreprendre ce genre de sujet, mais il faut l’intelligence et le recul nécessaire.

© David Fathi

© David Fathi

Explorez
Photon Tide, le glitch à l'âme
© Photon Tide
Photon Tide, le glitch à l’âme
« Je voudrais que vous n'ayez pas peur de ce qui se trouve dans votre esprit, mais que vous l'embrassiez », déclare Photon Tide, ou « Pho...
19 avril 2024   •  
Écrit par Milena Ill
Nicolas Jenot : le corps des machines et ses imperfections
© Nicolas Jenot
Nicolas Jenot : le corps des machines et ses imperfections
Expérimentant avec la photo, la 3D ou même le glitch art, l’artiste Nicolas Jenot imagine la machine – et donc l’appareil photo – comme...
18 avril 2024   •  
Écrit par Lou Tsatsas
Nicolas Lebeau, reprendre le contrôle des images
© Nicolas Lebeau
Nicolas Lebeau, reprendre le contrôle des images
Avec Voltar A Viver (« Retourner à la vie », en français), Nicolas Lebeau questionne notre rapport aux images en puisant aussi bien dans...
17 avril 2024   •  
Écrit par Ana Corderot
Les coups de cœur #488 : Nika Sandler et Julien Athonady
© Julien Athonady
Les coups de cœur #488 : Nika Sandler et Julien Athonady
Nos coups de cœur de la semaine, Julien Athonady et Nika Sandler, emploient le médium photographique comme une manière d'entrer au plus...
15 avril 2024   •  
Écrit par Milena Ill
Nos derniers articles
Voir tous les articles
Ces corps qui nous traversent : réparer notre relation au vivant
© Chloé Milos Azzopardi
Ces corps qui nous traversent : réparer notre relation au vivant
Du 6 au 28 avril, Maison Sœur accueille Ces corps qui nous traversent, une exposition qui nous inivite à repenser notre rapport au vivant.
Il y a 11 heures   •  
Écrit par Costanza Spina
Photon Tide, le glitch à l'âme
© Photon Tide
Photon Tide, le glitch à l’âme
« Je voudrais que vous n'ayez pas peur de ce qui se trouve dans votre esprit, mais que vous l'embrassiez », déclare Photon Tide, ou « Pho...
19 avril 2024   •  
Écrit par Milena Ill
Nicolas Jenot : le corps des machines et ses imperfections
© Nicolas Jenot
Nicolas Jenot : le corps des machines et ses imperfections
Expérimentant avec la photo, la 3D ou même le glitch art, l’artiste Nicolas Jenot imagine la machine – et donc l’appareil photo – comme...
18 avril 2024   •  
Écrit par Lou Tsatsas
Voyage aux quatre coins du monde : la séance de rattrapage Focus !
©Théo Saffroy / Courtesy of Point Éphémère
Voyage aux quatre coins du monde : la séance de rattrapage Focus !
De la Corée du Nord au fin fond des États-Unis en passant par des espaces imaginaires, des glitchs qui révèlent les tensions au sein d’un...
18 avril 2024   •  
Écrit par Fisheye Magazine