D’un autre côté, un certain nombre de problèmes ont été soulevés, tels que la discrimination raciale à travers le « Crime Nabi » et la discrimination fondée sur le sexe à travers les outils de recrutement basés sur l’IA et la notation de crédit basée sur l’IA. D’autres applications basées sur l’IA font également parfois de la discrimination sur la base du sexe, et parfois sur la base de la race, de la religion, de la richesse ou de l’état de santé. Comment devrions-nous gérer l’IA dans une réalité où les chatbots IA diffusent régulièrement des discours racistes en ligne ? [1]
Il va sans dire que le techno-optimisme qui surestime les avantages de l’IA porte un préjudice majeur à nos vies. De plus, l’IA est toujours imprévisible. Les conclusions tirées par l’IA peuvent difficilement être vérifiées de l’extérieur, et les humains ne peuvent pas comprendre pourquoi de telles conclusions ont été tirées.
Si une IA prend une mauvaise décision, personne ne peut expliquer pourquoi, ce qui rend difficile de lui demander des comptes. L’IA présente également des dangers inhérents tels que l’imprévisibilité, le manque de transparence et de responsabilité, ainsi que les biais dus à des données biaisées, et de nombreux problèmes peuvent être attendus dans ses applications militaires. Aujourd’hui, l’utilisation militaire de l’IA est déjà bien avancée, ce qui rend extrêmement difficile son arrêt.
IA et Big Data
L’IA est généralement considérée comme une technologie ou un système permettant aux machines de remplacer les capacités intellectuelles humaines. Les capacités intellectuelles humaines comprennent, par exemple, la capacité perceptuelle de distinguer des objets, la capacité linguistique et la capacité de raisonner et de prendre des décisions. L’IA améliore ces capacités grâce à une fonction appelée apprentissage automatique, basée sur de grandes quantités de données.
Avec le développement récent d’une nouvelle technologie d’apprentissage automatique appelée apprentissage profond, l’IA est déjà devenue un élément familier de notre vie quotidienne. Par exemple, les assistants vocaux tels que Siri d’Apple et Alexa d’Amazon sont également activés par la technologie de l’IA. Le Big Data joue un rôle complémentaire à l’IA.
Le Big Data est une collection de données vaste et diversifiée qui continue de croître en temps réel. Le processus décisionnel de la technologie de l’IA nécessite de grandes quantités de données (Big Data) pour prendre certaines décisions. Une partie du Big Data est ensuite divisée en sous-ensembles et étiquetée par les humains comme données d’entraînement en fonction de l’objectif de sortie. Si l’utilisation de cette combinaison d’IA et de Big Data présente de nombreux avantages, de nombreux problèmes ont également été soulignés.
Problèmes avec l’IA
Des cas de fonctionnement involontaire de l’IA ayant conduit à des violations des droits de l’homme et à des atteintes à la vie privée ont souvent été soulignés. L’utilisation efficace de l’IA et du Big Data nécessite des personnes capables de gérer les données de manière appropriée et efficace. Cependant, il existe une pénurie mondiale de professionnels de l’informatique possédant des compétences en science des données et dans des domaines connexes.
Dans ce contexte, de nombreux incidents liés à l’IA se sont produits dans le passé. En 2014, plusieurs biais ont été découverts dans les algorithmes du système de recrutement par IA d’Amazon, entraînant une discrimination sexuelle à l’encontre des demandeurs d’emploi.
En 2016, le chatbot IA Tay de Microsoft a été rendu public. Cependant, peu de temps après sa sortie, Tay s’est lancé dans une tirade raciste et le service a été fermé, comme mentionné ci-dessus. En 2019, Goldman Sachs a fait l’objet de vives critiques du public lorsqu’il a été découvert que les femmes se voyaient injustement attribuer des scores inférieurs lors du calcul des cotes de crédit des utilisateurs, ce qui entraînait un écart entre les sexes dans les services fournis par l’entreprise à ses utilisateurs.
En 2020, il a été constaté qu’un système de notation prédictive utilisé par l’organisme de réglementation des examens du Royaume-Uni, l’Office of Qualifications and Examinations Regulation (Ofqual), désavantageait les étudiants de la classe ouvrière et des minorités, ce qui a conduit à des protestations contre l’agence. Dans les sociétés capitalistes axées sur le profit, aucune mesure drastique n’a été prise pour résoudre ces problèmes, et ils ont continué à se reproduire.
L’IA, en revanche, en tant que technologie autoritaire, a étendu son influence pour promouvoir son modèle alternatif de gouvernance. Par exemple, la Chine a utilisé le pouvoir de l’apprentissage automatique pour accroître la surveillance de sa population, réprimant et contrôlant les Ouïghours et d’autres minorités ethniques. L’utilisation d’appareils technologiques basés sur l’IA risque de créer des situations qui différencient et catégorisent les personnes.
L’IA pour accroître et amplifier la haine
Les nombreux problèmes causés par l’IA mentionnés dans la section précédente ne sont que la pointe de l’iceberg. Plus l’IA pénètre la société, plus son impact négatif sur la société est grand. Et ces dernières années, plusieurs pays ont intensifié leurs actions juridiques et réglementaires contre l’IA.
En avril 2021, la Commission européenne a présenté une proposition réglementaire complète pour l’IA. La Federal Trade Commission (FTC) réglemente également de plus en plus l’IA en Amérique du Nord. Les résultats de l’enquête UNESCO 2020 montrent clairement l’impact de l’idéologie raciale sur l’IA [2]. Les résultats de l’enquête montrent que les préjugés sexistes, en particulier à l’égard des femmes et des personnes LGBTQI, se transmettent aux logiciels d’IA via le Big Data, conduisant à la discrimination. Lorsque l’algorithme d’IA prédictive est entraîné sur un ensemble de données biaisé, les biais existants seront reproduits.
Un autre problème est que l’IA renforce et amplifie les préjugés. L’IA pourrait également avoir un impact négatif sur les préjugés d’une manière que les humains ne prévoient pas. L’IA et les algorithmes sont programmés par des humains, souvent nécessairement en utilisant des données basées sur le passé. Le passé a été un endroit très raciste. Et nous utilisons principalement des données historiques pour entraîner notre IA. Les performances de l’IA dépendent de la qualité et de la quantité des données d’entraînement. Ainsi, si vous ne disposez pas de suffisamment de données d’entraînement fiables et de haute qualité et que les données sont biaisées, les décisions de l’IA le seront.
Le processus par lequel les technologies d’IA parviennent à des conclusions biaisées, discriminatoires ou simplement inexactes complique et amplifie d’autres problèmes, tels que le manque de transparence et de responsabilité, les menaces à la présomption d’innocence et les inquiétudes concernant les défis techniques.
Fausses nouvelles produites en masse
ChatGPT est l’une de nos IA les plus populaires. Si vous pouvez utiliser ChatGPT, interrogez ChatGPT sur la politique et d’autres sujets que vous connaissez. Dans de nombreux cas, les réponses données par ChatGPT sont différentes à chaque fois, avec de nombreuses informations inexactes ou fausses mélangées aux informations correctes. L’émergence récente de modèles linguistiques à grande échelle tels que ChatGPT a permis de créer de grandes quantités de désinformation, de fausses nouvelles, etc. de manière plus élaborée et à moindre coût. Pour cette raison, l’IA peut être utilisée de manière offensive dans des situations où la cognition humaine est manipulée par de fausses informations ou par d’autres moyens.
Dans les guerres récentes, avec le développement des technologies de l’information et de la communication, on craint une nouvelle utilisation militaire de l’IA. Aujourd’hui, l’IA est utilisée non seulement pour faire fonctionner des armes sans pilote, mais également pour traiter des informations essentielles aux opérations militaires et pour soutenir la prise de décision humaine basée sur ces informations. L’IA présente un certain nombre de problèmes, notamment l’imprévisibilité, le manque de transparence et de responsabilité, ainsi que le risque de biais dû à des données déformées. En l’absence de solutions à ces problèmes, on craint que l’utilisation de l’IA dans la prise de décision dans les opérations militaires ne se développe à l’avenir.
La base technologique de la société socialiste
L’histoire récente a été une période de progrès technologiques continus et étonnants. Les technologies nucléaires, numériques et autres changent fondamentalement nos vies, nos sociétés et notre environnement. Et la convergence accélérée de la technologie et de nos vies nous a amenés à l’ère de l’IA et de l’Internet des objets (IoT). Aujourd’hui, il ne se passe pas un jour sans rencontrer un système semi-automatique ou automatisé. Mais l’IA, le Big Data et d’autres technologies numériques complètent les experts au lieu de les remplacer. Dans le passé, Lénine, afin de préserver le régime soviétique qu’il avait créé et en raison de la nécessité d’élever la capacité productive de la Russie au niveau de l’Occident, défendait la thèse suivante.
« Le communisme équivaut à la puissance soviétique plus l’électrification de tout le pays. » [3]
À l’époque de Lénine, l’électrification était considérée comme une technologie innovante et la base technologique de la société socialiste. Après la Révolution d’Octobre, il a été déclaré que le socialisme ne serait réalisé que lorsque toutes les industries seraient reconstruites sur la base de l’électrification. Lénine considérait l’électrification au niveau énergétique comme la base technologique de la société socialiste. Cependant, les résultats historiques montrent que l’électrification ne peut à elle seule assurer le succès de l’économie d’une société socialiste. Alors, quelle est la base technologique de la société socialiste moderne ?
La thèse de Lénine faisait appel à des technologies au niveau énergétique, y compris les technologies de communication. D’un autre côté, l’économie actuelle dans une société socialiste nécessite des technologies avancées au niveau du traitement de l’information, et l’IA en fait partie. Toutefois, à l’heure actuelle, l’IA ne peut pas constituer la base technologique de la société socialiste. La technologie doit au moins être contrôlée socialement, et non contrôlée par le capital. Et les contrôles actuels sur l’IA sont insuffisants à cet égard. L’IA est également imprévisible, manque de transparence et de responsabilité, et comporte de nombreux risques de biais dus à des données déformées. Cette technologie imprévisible ne devrait pas être utilisée dans une zone où des décisions sont prises pour prendre des vies humaines.
Nous sommes confrontés à une société dans laquelle les machines liées à l’IA prennent automatiquement des vies humaines. Dans le même temps, le colonialisme numérique et le capitalisme de surveillance créés par l’IA ont atteint un niveau qui menace la dignité humaine. La technologie du pouvoir de surveillance qui crée une telle discrimination de classe nécessite une réglementation stricte. La base technologique d’une société socialiste doit être sous le contrôle et la supervision de l’autonomisation démocratique de la classe ouvrière, avec la dignité de la vie comme considération primordiale pour l’égalité des sexes, la liberté sexuelle et les relations souhaitables avec la nature.
16 février 2024
Ce sujet répond à vos recherches vous adorerez tout autant ces livres:
,(la couverture) . Disponible à l’achat sur les plateformes Amazon, Fnac, Cultura ….
Vous pouvez lire cet article traitant le thème « confédération générale du travail ». Il est suggéré par l’équipe cgt-caisses-epargne.fr. Cet écrit est réédité aussi exactement que possible. Si jamais vous désirez fournir des renseignements complémentaires à cet article sur le sujet « confédération générale du travail » vous avez la possibilité d’adresser un message aux contacts indiqués sur ce site. La raison d’être de cgt-caisses-epargne.fr est de débattre de confédération générale du travail dans la transparence en vous donnant la visibilité de tout ce qui est lié au sujet sur le net En consultant de manière régulière nos contenus de blog vous serez au courant des prochaines publications.