L\u2019intelligence artificielle n\u2019est pas seulement un outil de productivit\u00e9\u202f: elle pose aussi une question vertigineuse pour les d\u00e9cennies \u00e0 venir\u202f: que devient l\u2019humanit\u00e9 si, un jour, certaines formes d\u2019IA d\u00e9passent largement nos capacit\u00e9s intellectuelles ? Parler de \u00ab\u202fsuper\u2011intelligence\u202f\u00bb peut sembler abstrait, mais pour un dirigeant, le sujet se traduit d\u00e9j\u00e0 en choix concrets de conception, de gouvernance et de responsabilit\u00e9.<\/p>\n\n\n\n
L\u2019IA actuelle reste sp\u00e9cialis\u00e9e\u202f: m\u00eame les meilleurs mod\u00e8les de langage n\u2019ont ni conscience, ni intentions propres, ni compr\u00e9hension profonde du monde. Ils imitent, combinent et extrapolent \u00e0 partir de donn\u00e9es. Pourtant, la vitesse des progr\u00e8s nourrit deux dynamiques simultan\u00e9es\u202f:<\/p>\n\n\n\n
La notion de super\u2011intelligence d\u00e9signe une IA qui surpasserait largement l\u2019humain dans la plupart des domaines cognitifs utiles\u202f: analyse, planification, invention, persuasion, optimisation. Le d\u00e9bat scientifique est loin d\u2019\u00eatre tranch\u00e9 sur le \u00ab\u202fquand\u202f\u00bb et m\u00eame sur le \u00ab\u202fsi\u202f\u00bb, mais l\u2019hypoth\u00e8se oblige d\u00e8s aujourd\u2019hui \u00e0 se poser une question simple\u202f: jusqu\u2019o\u00f9 voulons\u2011nous aller, et avec quels garde\u2011fous ?<\/p>\n\n\n\n
Pr\u00e9server \u00ab\u202fl\u2019humanit\u00e9\u202f\u00bb, ce n\u2019est pas seulement \u00e9viter des sc\u00e9narios de science\u2011fiction o\u00f9 des machines prendraient le contr\u00f4le. C\u2019est aussi prot\u00e9ger :<\/p>\n\n\n\n
\u00c0 mesure que l\u2019IA intervient dans la finance, les m\u00e9dias, la sant\u00e9, la s\u00e9curit\u00e9 ou la d\u00e9fense, elle devient un facteur de puissance et de vuln\u00e9rabilit\u00e9 collective. L\u2019enjeu n\u2019est pas de \u00ab\u202fstopper\u202f\u00bb l\u2019IA, mais d\u2019\u00e9viter qu\u2019une course \u00e0 la performance ne conduise \u00e0 des syst\u00e8mes trop puissants, trop autonomes, trop mal contr\u00f4l\u00e9s.<\/p>\n\n\n\n
Pour penser la pr\u00e9servation de l\u2019humanit\u00e9, il est utile de distinguer trois familles de risques :<\/p>\n\n\n\n
M\u00eame sans \u00ab\u202fr\u00e9volte des machines\u202f\u00bb, ces risques suffisent \u00e0 justifier une r\u00e9flexion s\u00e9rieuse sur les limites et la gouvernance.<\/p>\n\n\n\n
Les entreprises sont au c\u0153ur de cette transformation\u202f: ce sont elles qui con\u00e7oivent, financent, d\u00e9ploient et industrialisent les syst\u00e8mes d\u2019IA. Un dirigeant peut difficilement se contenter d\u2019un discours technophile ou alarmiste\u202f; il doit structurer sa position. Quelques questions cl\u00e9s :<\/p>\n\n\n\n
Cela peut se traduire, tr\u00e8s concr\u00e8tement, par des d\u00e9cisions strat\u00e9giques\u202f: ne pas automatiser certaines d\u00e9cisions de vie ou de mort, de droits fondamentaux ou de justice\u202f; limiter la capacit\u00e9 d\u2019un syst\u00e8me \u00e0 se connecter librement \u00e0 d\u2019autres syst\u00e8mes ; imposer des paliers de validation humaine.<\/p>\n\n\n\n
L\u2019un des th\u00e8mes majeurs des recherches sur la super\u2011intelligence est celui de l\u2019\u00ab\u202falignement\u202f\u00bb\u202f: comment s\u2019assurer qu\u2019un syst\u00e8me tr\u00e8s performant poursuit des objectifs compatibles avec les valeurs et les int\u00e9r\u00eats humains, m\u00eame dans des situations impr\u00e9vues ? L\u2019alignement ne se r\u00e9sume pas \u00e0 \u201capprendre \u00e0 l\u2019IA \u00e0 \u00eatre gentille\u201d\u202f; il cultive plusieurs dimensions :<\/p>\n\n\n\n
M\u00eame si la super\u2011intelligence reste hypoth\u00e9tique, ces principes sont d\u00e9j\u00e0 utiles pour des syst\u00e8mes beaucoup plus modestes, d\u00e8s lors qu\u2019ils affectent des vies humaines \u00e0 grande \u00e9chelle.<\/p>\n\n\n\n
L\u2019un des risques les plus insidieux n\u2019est pas la domination brutale, mais l\u2019\u00e9rosion progressive de la capacit\u00e9 humaine \u00e0 d\u00e9cider\u202f:<\/p>\n\n\n\n
Pr\u00e9server l\u2019humanit\u00e9, c\u2019est maintenir des espaces o\u00f9 l\u2019on peut dire \u00ab\u202fnon\u202f\u00bb \u00e0 la suggestion de la machine, o\u00f9 l\u2019on prend le temps de d\u00e9battre, d\u2019exercer un jugement critique, d\u2019explorer des options non recommand\u00e9es par l\u2019algorithme. Pour une entreprise, cela signifie, par exemple, ne pas transformer les d\u00e9cisions manag\u00e9riales ou strat\u00e9giques en simples validations d\u2019un score d\u2019IA.<\/p>\n\n\n\n
Au\u2011del\u00e0 de chaque entreprise, la question de la super\u2011intelligence et de la pr\u00e9servation de l\u2019humanit\u00e9 demande un cadre collectif\u202f:<\/p>\n\n\n\n
Les dirigeants ont un r\u00f4le \u00e0 jouer dans ce d\u00e9bat, en sortant de la logique purement concurrentielle pour d\u00e9fendre des standards \u00e9lev\u00e9s de s\u00e9curit\u00e9, de transparence et de responsabilit\u00e9. Investir dans ces garde\u2011fous peut sembler co\u00fbteux \u00e0 court terme, mais c\u2019est souvent ce qui \u00e9vite les ruptures brutales, les interdictions massives ou les crises de confiance.<\/p>\n\n\n\n
L\u2019IA ouvre des perspectives extraordinaires\u202f: progr\u00e8s m\u00e9dical, optimisation \u00e9nerg\u00e9tique, recherche scientifique acc\u00e9l\u00e9r\u00e9e, aide \u00e0 la d\u00e9cision sur des probl\u00e8mes complexes. Refuser ces avanc\u00e9es au nom de la peur ne serait pas plus responsable que de les poursuivre sans limite. L\u2019enjeu est de maintenir, au c\u0153ur de la course technologique, une question simple\u202f: est\u2011ce que ce que nous construisons renforce la capacit\u00e9 des humains \u00e0 vivre dignement, librement, ensemble ?<\/p>\n\n\n\n
Pour un dirigeant, cela se traduit par une posture\u202f:<\/p>\n\n\n\n
Pr\u00e9server l\u2019humanit\u00e9 dans un monde o\u00f9 l\u2019IA progresse vite, c\u2019est accepter que la question de la technique est aussi une question de projet de soci\u00e9t\u00e9. La super\u2011intelligence, si elle doit un jour exister, devrait \u00eatre le r\u00e9sultat d\u2019un choix collectif assum\u00e9, pas le produit d\u2019une fuite en avant.<\/p>\n","protected":false},"excerpt":{"rendered":"
L\u2019intelligence artificielle n\u2019est pas seulement un outil de productivit\u00e9\u202f: elle pose aussi une question vertigineuse pour les d\u00e9cennies \u00e0 venir\u202f: que devient l\u2019humanit\u00e9 si, un jour, certaines formes d\u2019IA d\u00e9passent largement nos capacit\u00e9s intellectuelles ? Parler de \u00ab\u202fsuper\u2011intelligence\u202f\u00bb peut sembler … Continue reading