https://www.presse-citron.net/eboueurs-du-net-la-moderation-ou-la-partie-immergee-des-reseaux-sociaux/amp/

ACTUALITÉS

Éboueurs du net : la modération, ou la partie immergée des réseaux sociaux

Les algorithmes ne peuvent pas assurer efficacement toute la modération sur les réseaux sociaux. Au risque que les modérateurs humains y laissent leur santé mentale.

Cette semaine, Twitter annonçait qu’il rachetait Smyte, un service chargé de lutter contre les abus en ligne. C’est connu, le réseau social de Jack Dorsey a la réputation d’avoir du mal à limiter les comportements abusifs sur sa plateforme.

Depuis plusieurs années, Twitter et sa politique de modération sont régulièrement critiqués, si bien que la plateforme présente progressivement de nouvelles règles à suivre. Malgré tout, le réseau social est loin d’être le seul à avoir des difficultés liées aux contenus en ligne. Tous se doivent de travailler aux côtés de modérateurs, ces éboueurs du web chargés de visionner une quantité insoupçonnée de contenu pour répondre à la question : Que doit-on ou ne doit-on pas voir sur les réseaux sociaux ?

=======================

Quels critères ? , quelle technologie ? IA ? Un réseau social peut il ne pas tenir compte du critère économique  de “l’audimat” ? Faut il être plus ouvert en fonction du topic ? Sur quel critère ? Ne faut il pas pondérer par l’activité générée afin de permettre à la liberté d’expression de se financer ? Quel trade-off ? Comment adapter les logiciels aux souhaits des propriétaires de réseaux sociaux ( ce sont des espaces privés ) ?

Ce topic au long cours se propose de Suivre sur le long terme ce nouveau terrain où liberté d’expression et lois s’affrontent . Un immense défi économique et éthique .

Il faut s'abonner pour lire la suite du contenu.

Smyte kezako ?

https://www.zdnet.fr/amp/actualites/twitter-achete-smyte-pour-proteger-ses-utilisateurs-des-abus-39870068.htm

Dans le cadre de sa stratégie pour lutter contre les contenus haineux et les cyberharcèlement, Twitter vient de procéder à l’acquisition de Smyte. Cette jeune pousse, fondée en 2014 par d’anciens ingénieurs de Google et Instagram, est spécialisée dans la lutte contre les contenus haineux, le harcèlement et le spam. Ses outils sont capables de stopper toutes sortes de comportements en ligne indésirables: phishing, faux comptes, cyberintimidation, spam… 

Les clients Smyte peuvent accéder à cette technologie via une API ou donner accès à leurs applications ou bases de données. Dans ce deuxième scénario, Smyte importe les règles existantes et applique de l’apprentissage automatique pour en créer de nouvelles adaptées aux besoin de l’entreprise. 

Pour Twitter, il s’agit de sa première acquisition depuis 2016, mais son montant n’a pas été révélé. Il y a un mois, Twitter a commencé à limiter la visibilité des tweets de personnes ayant un historique de mauvais comportement sur le service. Mais le site de microblogging continue à faire face à la présence de trolls, de bots et d'escroqueries et en particulier d'escroqueries cryptographiques. (Eureka Presse)

https://medium.com/@mfouquenet/médias-et-intelligence-artificielle-la-modération-automatique-est-elle-pour-bientôt-cace0efccec

Médias et intelligence artificielle : La modération automatique est-elle pour bientôt ?

A l’heure du machine learning et de “l’intelligence artificielle”, comment le journalisme est-il impacté par ces évolutions ? Exemple d’un champ d’applications pour les médias en cours de test : celui de la modération des commentaires.

Le New York Times a réouvert progressivement les commentaires sous ses articles en ligne, avec l’aide de Jigsaw, une société spécialisée dans l’intelligence artificielle soutenue par Google. L’algorithme — nommé Perspective — détecte le niveau de toxicité d’un article sur une échelle de 1 à 100, en se basant sur le champ lexical. Il a été utilisé aussi par Wikipedia, The Guardian et The Economist.

http://perspectiveapi.com/#/

Perspective is an API that makes it easier to host better conversations. The API uses machine learning models to score the perceived impact a comment might have on a conversation. Developers and publishers can use this score to give realtime feedback to commenters or help moderators do their job, or allow readers to more easily find relevant information, as illustrated in two experiments below. We’ll be releasing more machine learning models later in the year, but our first model identifies whether a comment could be perceived as “toxic" to a discussion.

===================+====

Ces technos à terme ne menacent elles pas la liberté d’expression ?

La part d’arbitraire d’une modération humaine submergée par des millions de posts devant composer avec des impératifs économiques, les choix des propriétaires de ces espaces d’expression publique sur des espaces privés, les risques judiciaires, n’est elle pas préférable à des logiciels qui à terme si paramétrés strictement par la loi et les CGUs aboutiraient probablement à bannir une partie non négligeable de ceux qui animent ces espaces d’expression ?

https://www.lemonde.fr/pixels/article/2019/04/08/meurtres-pornographie-racisme-dans-la-peau-d-un-moderateur-de-facebook_5447563_4408996.html

« Le Monde » a obtenu les témoignages exceptionnels de ceux qui nettoient Facebook de ses contenus

« Le Monde » a obtenu les témoignages exceptionnels de ceux qui nettoient Facebook de ses contenus interdits. Ils racontent le quotidien de ce métier si particulier.

« Mon pire souvenir, c’est une vidéo dans laquelle on voit une femme gisant sur le sol, qui a l’air de souffrir, elle a des spasmes, elle vient sans doute de se faire torturer. Quatre hommes autour commencent à lui asséner des coups de machette sur la jambe. Elle hurle, ils lui coupent la tête, et la montrent à la caméra. » Méthodiquement, Arthur* énumère les images qui l’ont le plus choqué quand il était, l’an dernier, modérateur pour Facebook à Barcelone. Le râle d’un homme qui a reçu par accident une balle dans la tête. Des bébés mitraillés.

Huit heures par jour, le travail de ce Français consistait à examiner, à la chaîne, les innombrables contenus signalés comme problématiques par les utilisateurs de Facebook.

« Tu passes une journée à être immergé de merde, du pire d’Internet. Tu vois des images d’animaux qui se bouffent entre eux, tu enchaînes avec des scènes de sexe, des gens qui se pendent… 

===================

Après on comprend mieux pourquoi les modos FB laissent  pisser . Du coup l’IA ne pourrait elle pas suppléer nos éboueurs du net ?

Il y a 11 heures, DroitDeRéponse a dit :

https://www.presse-citron.net/eboueurs-du-net-la-moderation-ou-la-partie-immergee-des-reseaux-sociaux/amp/

ACTUALITÉS

Éboueurs du net : la modération, ou la partie immergée des réseaux sociaux

Les algorithmes ne peuvent pas assurer efficacement toute la modération sur les réseaux sociaux. Au risque que les modérateurs humains y laissent leur santé mentale.

 

Cette semaine, Twitter annonçait qu’il rachetait Smyte, un service chargé de lutter contre les abus en ligne. C’est connu, le réseau social de Jack Dorsey a la réputation d’avoir du mal à limiter les comportements abusifs sur sa plateforme.

Depuis plusieurs années, Twitter et sa politique de modération sont régulièrement critiqués, si bien que la plateforme présente progressivement de nouvelles règles à suivre. Malgré tout, le réseau social est loin d’être le seul à avoir des difficultés liées aux contenus en ligne. Tous se doivent de travailler aux côtés de modérateurs, ces éboueurs du web chargés de visionner une quantité insoupçonnée de contenu pour répondre à la question : Que doit-on ou ne doit-on pas voir sur les réseaux sociaux ?

=======================

Quels critères ? , quelle technologie ? IA ? Un réseau social peut il ne pas tenir compte du critère économique  de “l’audimat” ? Faut il être plus ouvert en fonction du topic ? Sur quel critère ? Ne faut il pas pondérer par l’activité générée afin de permettre à la liberté d’expression de se financer ? Quel trade-off ? Comment adapter les logiciels aux souhaits des propriétaires de réseaux sociaux ( ce sont des espaces privés ) ?

Ce topic au long cours se propose de Suivre sur le long terme ce nouveau terrain où liberté d’expression et lois s’affrontent . Un immense défi économique et éthique .

pas beaucoup de réactions de ceux qui font des boues des réseaux sociaux leur principal source d'information ... 

super que twitter soit préoccupé par cet incessant flot de fake news ou de déferlement de haine  ... Facebook en fait son fond de commerce ... 

il y a une heure, stvi a dit :

pas beaucoup de réactions de ceux qui font des boues des réseaux sociaux leur principal source d'information ... 

super que twitter soit préoccupé par cet incessant flot de fake news ou de déferlement de haine  ... Facebook en fait son fond de commerce ... 

Lire l’article ci-dessus , Les modos de FB ont de quoi se pendre . Ceux de FFR vivent finalement un fleuve tranquille ?

https://www.lemonde.fr/pixels/article/2018/09/12/facebook-devoile-le-fonctionnement-de-ses-logiciels-de-moderation-des-images-contenant-du-texte_5353948_4408996.html

Facebook dévoile le fonctionnement de ses logiciels de modération des images contenant du texte

L’entreprise a développé un système, appelé « Rosetta », capable de déchiffrer les textes figurant sur une photographie ou dans une vidéo.

...

Pour aider les 7 500 modérateurs humains à nettoyer la plate-forme de contenus abusifs, Facebook a mis en place différents systèmes de triage automatique des messages qui sont signalés par ses utilisateurs. Si ces logiciels peuvent facilement analyser et trouver des mots-clés problématiques dans les messages textes, leur tâche est beaucoup plus complexe pour les images qui contiennent du texte

=============

Et sur FFR ca reste artisanal ?

Quels sont les critères sur FB ? 

Il y a 7 heures, DroitDeRéponse a dit :

Lire l’article ci-dessus , Les modos de FB ont de quoi se pendre . Ceux de FFR vivent finalement un fleuve tranquille ?

https://www.lemonde.fr/pixels/article/2018/09/12/facebook-devoile-le-fonctionnement-de-ses-logiciels-de-moderation-des-images-contenant-du-texte_5353948_4408996.html

Facebook dévoile le fonctionnement de ses logiciels de modération des images contenant du texte

L’entreprise a développé un système, appelé « Rosetta », capable de déchiffrer les textes figurant sur une photographie ou dans une vidéo.

...

Pour aider les 7 500 modérateurs humains à nettoyer la plate-forme de contenus abusifs, Facebook a mis en place différents systèmes de triage automatique des messages qui sont signalés par ses utilisateurs. Si ces logiciels peuvent facilement analyser et trouver des mots-clés problématiques dans les messages textes, leur tâche est beaucoup plus complexe pour les images qui contiennent du texte

=============

Et sur FFR ca reste artisanal ?

Quels sont les critères sur FB ? 

L' extrème facilité d'édition des fakes en textes constitue un des attraits essentiel des utilisateurs e FB.

Il en est de même pour les montages photos et vidéos grâce auxquels on peut donner à voir absolument tout ce que l'on désire montrer, en parfaite impunité.

Facebook est la vitrine idéale, faite sur mesure pour producteurs et consommateurs de propagande idéologique... 

il y a 47 minutes, versys a dit :

L' extrème facilité d'édition des fakes en textes constitue un des attraits essentiel des utilisateurs e FB.

Pas que FB . Certains forumeurs ici même peuvent publier un même fake sous forme de photomontage des dizaines de fois . @zebusoif par exemple à du publier un même photomontage sur Fabius avec des bulles de texte en Ukraine des dizaines de fois avec des précisions sur sa judéité. 

https://www.forumfr.com/recherche.html?&q=Fabius&author=zebusoif&search_and_or=or

Citation

Il en est de même pour les montages photos et vidéos grâce auxquels on peut donner à voir absolument tout ce que l'on désire montrer, en parfaite impunité.

Facebook est la vitrine idéale, faite sur mesure pour producteurs et consommateurs de propagande idéologique...