IA -
> Je vais vous faire une confidence : j’adore me faire peur. Les films d’horreur sont pour moi un plaisir sans égal. Les histoires paranormales me ravissent. Déraper sur la dernière marche d’un escalier me fait sentir plus vivante que jamais. Maintenant, je vais vous faire une deuxième confession. En dépit de mon goût pour les coups de flip, les scénarios à la Terminator qui déferlent ces derniers jours dans les médias, sans pincette ni nuance, me donnent une légère envie de reconversion.
[...]
> Au besoin, on prend donc cinq secondes pour le repréciser ici : un modèle ne ressent pas. Il calcule pour optimiser le résultat d’un objectif demandé par l’homme, dans les limites de règles érigées par l’homme. Si, au cours de ce processus, de quelconques dégâts venaient à être déplorés, un responsable : l’humain. Pas l’IA.
[...]
> la notion de «risque existentiel» divise les cerveaux les plus juteux de longue date. D’un côté, le chercheur français Yann Le Cun la qualifie volontiers «d’absurde». De l’autre, Geoffrey Hinton comme Yoshua Bengio, deux «pères» de l’IA, alertent depuis plusieurs années sur les potentiels dangers d’un algorithme surpuissant.
[...]
> Volontiers, la société {Open AI] décrit dans son rapport des outils capables de «tricher», «collaborer» ou de faire preuve de «réticence». Autant de termes humanisant qui, s’ils ont le mérite de faire preuve de pédagogie, dupent le public sur la nature synthétique de ces logiciels. Tout en le distrayant d’une question de fond : quelle est la responsabilité de la boîte dans cette affaire ?
Enfin quelques paroles journalistiques censées sur cette histoire. J'ai un collègue qui est fermement persuadé qu'on va vers une catastrophe causée par l'IA, c'est un peu triste ; il ne doit pas être le seul à penser ça.