Faut-il limiter l'IA ?

L'heure du constat

L'IA c'est super, c'est probablement la plus grosse révolution de ces 10 dernières années en matière de confort au quotidien.

Pour la productivité, je dis un grand OUI !

Mais quelque part, sur les certaines tâches qu'on faisait à l'époque manuellement, la tendance à tout déléguer devient tellement forte que le rapport humain a presque disparu.

En dev, on rencontre déjà quelques problèmes:

• La spec a de plus en plus tendance à être déléguée (ce qui est une erreur selon moi)
• L'implémentation est quasiment toujours déléguée
• La review aussi... les gens laissent copilot ou claude faire les reviews

Ce qui se traduit directement par un ticket qui a été délégué de bout en bout. Codé par l'IA review par l'IA.

Question:

Est-ce que le produit aussi va être utilisé par l'IA ?

Donc la perte de maitrise est grande sur le résultat, mais aussi sur la compréhension de ce qui a été envoyé.

Les tickets envoyés de cette façon auront une forte tendance à générer des bugs dans le futur.

Pour l'architecture, le problème se pose de plus en plus.

Si on en veut pas se poser quelques heures juste pour mettre à plat le besoin, la stack, l'architecture de données etc... L'IA seule va faire n'importe quoi.

Je l'ai vu faire des folies que jamais une personne sensée ne ferait:

• Utiliser 3 tables pour gérer des rôles différents
• Changer de pattern sur un coup de tête
• Utiliser des versions de packages flaggée CVE

En fait, si on laisse l'IA faire seule, on se retrouve avec une usine à gaz qui est prête à péter à tout moment.

Je pense sincèrement qu'il est impossible de laisser les choses se faire en roue libre, sans encadrer techniquement.

Et j'insiste sur le mot IMPOSSIBLE.

Tous les vendeurs de rêves qui racontent qu'ils ont lancé 50 saas avec Openclaw sans toucher à rien.

Laissez moi vous dire que c'est plus qu'une passoire, un gruyère et que c'est le genre de plateforme que je peux down en moins d'une heure via une attaque simpliste.

Donc, oui, le dev a encore de beaux jours devant lui.

Alors on fait quoi ?

Est-ce qu'on parle d'un retour en arrière complet ?

Je ne crois pas non plus. L'IA ça reste un super outil mais il faut savoir s'en servir. Un marteau n'est utile qu'avec des clous et c'est un peu le cas pour l'IA.

C'est pourquoi je pense qu'il reste des choses à faire en tant qu'humain pour continuer à produire quelque chose de pertinent:

• Faire ses specs soit même
• Faire son architecture, décider des packages, des versions, des patterns, des best practices
• Faire ses review, la QA, tester

Etant donné que la valeur des projets applicatifs ne se mesure pas vraiment à son auteur mais plutôt à l'usage. Les utilisateurs ne sont pas encore excédés par cette pratique.

Mais il y a des domaines où l'IA est même devenue un gage de médiocrité:

• la création de contenu: texte, vidéo, images, plagiat musical
• les courriers, emails qu'on reçoit à la pelle depuis l'IA
• énormément de sites web, de média etc qui ont perdu de l'intérêt (à par le titre et le chapo, le reste de l'article est creux)

Et dans de nombreux domaines on commence à observer un retour en arrière:

• les gens lancent de nouveau des produits physiques, handmade parfois simple comme des courriers ( source )
• des média et contenus authentiques gagnent de l'intérêt
• même en dev, le mouvement arrive avec une tendance AI-Free. Il y a même une rumeur de label en cours pour promouvoir ces produits ( source )

Mon avis sur le retour en arrière

Je pense que c'est smart dans certains cas. Quand il y a une tendance, cela reste toujours intéressant de miser contre cette tendance.

Il y a toujours une minorité de gens qui résistent et la minorité est souvent solidaire.

Miser contre l'IA aujourd'hui peut très créer un effet boule de neige et une forte demande.

Maintenant, je pense qu'il faut le faire avec parcimonie et qu'on ne peut pas appliquer cette règle à tous les domaines.