Quand l’intelligence détient le pouvoir
Un essai de Forwork sur la responsabilité des créateurs, le pouvoir institutionnel et la dignité humaine à l’ère de l’IA.
Génie, mythe personnel et manière dont le travail devient histoire
Un éclair dans le désert et la question venue après le succès
L’essai Trinity transforma le savoir en un pouvoir inédit et posa la question de la responsabilité des conséquences.
La responsabilité grandit avec le savoir, le pouvoir de décider et la capacité de refuser. Le travail ne peut donc être séparé entièrement de son contexte d’usage.
L’intelligence ouvre une porte ; la responsabilité demande ce qui la franchira.
Pouvoir faire ne signifie pas devoir faire
La spécialisation fragmente le travail et peut disperser la responsabilité jusqu’à ce que le dommage collectif semble n’appartenir à personne.
La responsabilité grandit avec le savoir, le pouvoir de décider et la capacité de refuser. Le travail ne peut donc être séparé entièrement de son contexte d’usage.
La capacité répond « possible » ; la sagesse demande « pour qui et à quel prix ».
Fritz Haber et les deux visages de la capacité
La synthèse de l’ammoniac soutint l’agriculture moderne, mais la même capacité chimique fut liée aux explosifs et à la guerre chimique.
La responsabilité grandit avec le savoir, le pouvoir de décider et la capacité de refuser. Le travail ne peut donc être séparé entièrement de son contexte d’usage.
Un héritage honnête conserve ensemble bénéfices et dommages.
Le Franck Report et le refus du silence
Des scientifiques alertèrent sur les conséquences politiques de la bombe atomique et laissèrent la preuve qu’une autre voie existait.
La responsabilité grandit avec le savoir, le pouvoir de décider et la capacité de refuser. Le travail ne peut donc être séparé entièrement de son contexte d’usage.
La responsabilité consiste aussi à montrer qu’un autre choix était possible.
Une invention porte les priorités de l’institution
Capital, droit, infrastructure et autorité orientent la technologie. L’éthique exige des structures, pas seulement de bonnes intentions.
La responsabilité grandit avec le savoir, le pouvoir de décider et la capacité de refuser. Le travail ne peut donc être séparé entièrement de son contexte d’usage.
La technologie amplifie la capacité ; l’institution en fixe la direction.
L’IA et la tentation de rendre les personnes faciles à traiter
L’efficacité ne garantit pas l’équité. Chacun doit pouvoir comprendre, corriger et contester les interprétations qui affectent sa vie.
La responsabilité grandit avec le savoir, le pouvoir de décider et la capacité de refuser. Le travail ne peut donc être séparé entièrement de son contexte d’usage.
Davantage de données ne rendent pas automatiquement un système humain.
Le mythe personnel face aux conséquences
Un récit mature montre comment une personne réagit lorsque des preuves de dommage apparaissent, et pas seulement ses succès.
La responsabilité grandit avec le savoir, le pouvoir de décider et la capacité de refuser. Le travail ne peut donc être séparé entièrement de son contexte d’usage.
Le mythe personnel demande ce que nous avons fait après avoir vu les conséquences.
Une work identity responsable
Un profil doit montrer finalité, limites, arbitrages et corrections sans transformer l’éthique en score.
La responsabilité grandit avec le savoir, le pouvoir de décider et la capacité de refuser. Le travail ne peut donc être séparé entièrement de son contexte d’usage.
La work identity doit montrer à quoi une capacité a servi.