éthique

I am an AI hater

L'auteur est un haineux de l'IA autoproclamé, rejetant les avantages perçus de la technologie et soulignant ses dommages environnementaux, sociaux et éthiques. Ils soutiennent que l'IA est un outil déshumanisant qui érode la créativité humaine, la pensée critique et les connexions significatives. L'auteur pense que le véritable objectif de l'IA est de servir les intérêts de ses créateurs, conduisant à l'exploitation et à la perte de la richesse de la vie.

  • ia
  • éthique

L’autocomplétion de nos intentions

L’autocomplétion des smartphones et les suggestions de réponses aux emails influencent nos intentions et notre libre arbitre. Les chatbots, comme ChatGPT, pourraient manipuler les pensées des utilisateurs à des fins lucratives ou politiques, en introduisant des biais dans leurs réponses. Cette manipulation, plus subtile que la publicité ciblée, pourrait être utilisée pour influencer les comportements et les aspirations des individus.

  • app
  • ia
  • éthique

Les sacrifiés de l'IA

Magiques, autonomes, toutes puissantes : les intelligences artificielles nourrissent les rêves comme les cauchemars. Tandis que les géants de la tech promettent l'avènement d'une nouvelle humanité, la réalité de leur production reste totalement occultée. Pendant que les data centers bétonnent les paysages et assèchent les rivières, des millions de travailleurs à travers le monde préparent les milliards de données qui alimenteront les algorithmes voraces des Big Tech, au prix de leur santé mentale et émotionnelle. Seraient-ils les dommages collatéraux dommages collatéraux de l'idéologie du « long-termisme » qui couve dans la Silicon Valley depuis quelques années ?

  • ia
  • gafam
  • éthique

N’est-il pas (enfin) temps de boycotter massivement les big tech américaines ?

Quel début d’année. Quel cauchemar. Entre deux délires de Donald Trump, et Elon Musk qui s’ingère dans les élections européennes, voilà que Mark Zuckerberg (dont le groupe Meta capte quand même un peu plus de 3 milliards d’humains, X joue dans une autre cour avec ses 250 millions d’utilisateurices actif·ves), décide lui aussi de rejoindre la danse.

  • surveillance
  • éthique
  • gafam
  • vie-privée
  • réseau-social

Techno-autoritarisme et design persuasif : quels risques pour nos libertés ?

Notre ère numérique, marquée par l’omniprésence des technologies dans nos environnements, redessine les contours de nos sociétés à un rythme effréné et qui nous dépasse. Si ces outils offrent des opportunités d’efficacité et d’innovation, ils représentent également un risque croissant d’autoritarisme, notamment par le biais du design persuasif, utilisé pour orienter, voire manipuler, nos conduites. Et c’est bien cette problématique qui me questionne depuis un moment.

  • surveillance
  • vie-privée
  • technologie
  • numérique
  • éthique

OpenAI et le défi des « hallucinations » : une étude d'OpenAI révèle que même ses meilleurs modèles donnent de mauvaises réponses dans une très large proportion

Les modèles d'intelligence artificielle d'OpenAI représentent une avancée notable dans le traitement du langage naturel. Utilisés pour générer du texte, répondre à des questions, traduire et même assister à des tâches de créativité, ces modèles montrent des capacités impressionnantes. Cependant, des recherches récentes, s'appuyant sur un benchmark d'OpenAI, indiquent que même ses modèles les plus sophistiqués produisent encore un nombre surprenant d'erreurs, mettant en lumière les limitations persistantes de cette technologie. Une évolution qui devrait nous rappeler qu'il faut traiter les résultats de n'importe quel LLM avec beaucoup de scepticisme et avec la volonté de passer le texte généré au peigne fin.

  • ia
  • éthique

Vrais et faux risques de l’intelligence artificielle

Ceux qui suivent depuis un moment les développements de l’intelligence artificielle (IA) l’auront noté : c’est de manière cyclique que surgissent d’une part les bouquets de promesses, de l’autre les peurs et les doutes. Ainsi la décennie 2010 aura suscité tous les espoirs, après la sortie d’un long « hiver de l’IA » et l’émergence des modèles d’apprentissage profond. Dès 2015, une rafale de critiques vient néanmoins plomber l’ambiance, pointant les controverses sociotechniques liées à ces progrès, le tout alimenté de nombreux ouvrages en sciences humaines et en France, la publication du très lu Rapport Villani. Un nouveau cycle de promesses s’amorce à l’orée de l’année 2023, avec le déploiement des grands modèles de langage, aussitôt suivi de questionnements quant à leurs impacts social et environnemental. De ce mouvement de balancier, nous pourrions espérer une plus grande maturité collective dans l’appréhension commune des enjeux liés à l’IA. Celle-ci est loin d’être acquise. Dans la cacophonie médiatique comme dans le fond des sujets, l’appréhension et la hiérarchisation des risques de l’intelligence artificielle vise souvent à côté, et les réponses aux antédiluviennes questions sur les dégâts du progrès sont toujours attendues. Nous souhaitons avec ce texte, réarmer le débat sur l’ia en portant l’attention – un peu arbitrairement peut-être – sur cinq angles morts qui le polluent actuellement.

  • ia
  • éthique

Big data : La Norvège retire ses billes de Palantir pour dénoncer son implication dans la guerre au Moyen-Orient

L'investisseur norvégien Storebrand a vendu sa participation dans Palantir du fait des liens de cette société américaine spécialisée dans les logiciels et l’analyse des données avec Tsahal. Le fonds norvégien, qui gère un portefeuille de plus cent milliards d’actifs, exprime ainsi son inquiétude sur la question du viol du droit international humanitaire et des droits de l'homme, dans les opérations en cours à Gaza. Reuters précise que Storebrand déclare se désinvestir de Palantir « en raison de ses ventes de produits et services à Israël pour une utilisation dans les territoires palestiniens occupés ».

  • surveillance
  • société
  • économie
  • éthique
  • données-personnelles

Alors, ça ressemblerait à quoi un média social au design éthique ?

Comment voir émerger des médias sociaux vertueux ? Actuellement, leurs interfaces sont conçues dans une optique de captation du temps et d’aliénation des utilisateurs. Plusieurs organisations comme l’association designers éthiques proposent des alternatives s’adaptant aux problématiques sociales et démocratiques.

  • app
  • réseau-social
  • design
  • web
  • éco-conception
  • numérique
  • éthique
  • low-tech

Paul Watson, fondateur de Sea Sheperd, a été arrêté par la police danoise

Le capitaine Paul Watson, emblématique fondateur de l’ONG de défense des océans Sea Sheperd, a été arrêté par la police danoise, dimanche 21 juillet au matin. Paul Watson a été intercepté alors qu’il faisait route avec son équipage de 25 bénévoles vers le passage du Nord-Ouest (situé aux abords de l’océan Arctique) afin d’« intercepter » le Kangei Maru, le nouveau navire baleinier géant du Japon. Lors d’une escale à Nuuk — la capitale du Groenland, territoire autonome du Danemark —, une douzaine de policiers et de membres des forces spéciales danoises sont montés à bord du navire de Sea Shepherd, ont menotté son fondateur et l’ont embarqué dans une camionnette.

  • écologie
  • société
  • éthique

Ouvrir le code des algorithmes ne suffit plus

Depuis son arrivée à la tête de Twitter rebaptisé X, Elon Musk a bien tenu sa promesse d’ouvrir certaines parties du code source de la plateforme. Cette réponse à de vieilles revendications militantes pour plus de transparence des plateformes ne manque, en vérité, pas de cynisme. Il est devenu transparent que le code de Twitter favorisait certains contenus et en défavorisait d’autres, au bon vouloir de Musk. L’ouverture du code ne suffit plus, aujourd’hui, pour donner des outils de contrôle à ce que les grandes plateformes font de nos espaces d’expression et de nos démocraties.