OpenNews
Je crois que tu pêches par excès d'optimisme, ou alors c'est moi qui suis irréductiblement pessimiste. Quoi qu'il en soit, nos points de vue divergent :)
> Dans le cas présent, si l'algorithme désigne Johnny Halliday en passage dans l'aéroport comme étant un extrèmiste musulman fiché, ce que va faire l'algorithme, ce n'est pas monter sur ses petites papattes et aller arrêter Johnny en pointant un Colt sur son visage. L'algorithme va simplement prévenir les vigiles, qui eux, appuyeront sur le bouton "non, c'est un faux positif", et éventuellement remonteront les dysfonctionnements.
Ton exemple est d'emblée biaisé : si c'est un dénommé Mohamed Fahta qui est signalé comme extrémiste fiché, lesdits vigiles ne se poseront même pas la question. Et lui casseront probablement la gueule au passage, persuadés en outre de faire du bon travail.
> mais ça montre que l'affirmation comme quoi tout contrôle est impossible est fausse
Encore une fois, j'aimerais partager ton optimisme. La CNIL, pour ne parler que d'elle, est devenue une coquille vide. Pour le reste, regarde autour de toi : la loi de programmation militaire, la loi renseignement, l'état d'urgence... pour ne parler que de la France (mais les autres gouvernements ne sont pas en reste) l’État fait **toujours** en sorte que l'accès au juge soit le plus limité possible : soit qu'il n'ait pas été prévu, voire carrément supprimé, soit qu'il soit rendu tellement difficile de fait (délais intenables, coûts exorbitants, conditions cumulatives draconiennes ou passage préalable par une commission administrative qui "fait le tri"...) que c'est comme s'il n'existait pas.
> Si on propose d'imposer un algorithme open-source, dont les biais peuvent alors être rendu publique lorsque découvert et ensuite corrigés, et conçus tel que les données sont non utilisable pour une surveillance globale (par exemple, les données sont envoyées chez un autre organe dont le travail est de protéger la vie privée, et l'obtention de ces données à des fins de renseignement ne peut être faite qu'après une demande justifiée), alors, l'argument "pour renforcer la sécurité" ne permet pas de refuser cette proposition.
C'est gentil tout plein. Je ne me moque pas de toi, je me rends compte qu'à l'écrit ma phrase pourrait être mal interprétée. C'est gentil donc, mais, pardon, un peu naïf. C'est une solution de geek idéaliste. Là encore, regarde autour de toi, regarde ce qu'il vient de se passer. Un indice : Snowden. As-tu l'impression que les gens (je parle de l'immense majorité des citoyens, pas de quelques militants technophiles) aient changé quelque chose à leurs pratiques internet, à leur vie de tous les jours pour faire court, eu égard aux révélations de Snowden ?
Réponse : non, bien sûr. On continue tout pareil. Et il se trouve un assez grand nombre de gogos pour claironner "je m'en fiche, je n'ai rien à me reprocher". Et c'est là que la boucle est bouclée. Ils s'en fichent, ils n'ont rien à se reprocher, jusqu'au jour où l'on viendra les chercher à 4h du mat' dans leur lit, ou bien à leur descente d'avion. Et tout ça avec des flics même pas méchants, des vigiles hyper-respectueux et des cellules méga-confortables.
Navré d'avoir à écrire cela, mais j'ai peur. Pas de la technologie, mais du pouvoir qui s'en sert. Et tant que le pouvoir n'aura pas changé (ce qui n'arrivera peut-être pas de mon vivant, voire jamais), je continuerai à "pointer du doigt l'algorithme comme l'outil de la société panoptique", parce que c'est exactement ce qu'il est.
2016-03-31 - permalink -
-
https://www.ecirtam.net/opennews/?2aSi_w