{"id":26485,"date":"2022-06-29T05:19:12","date_gmt":"2022-06-29T10:19:12","guid":{"rendered":"https:\/\/blogs.funiber.org\/pt\/?p=26485"},"modified":"2022-07-15T06:11:55","modified_gmt":"2022-07-15T11:11:55","slug":"funiber-ferramentas-moderacao","status":"publish","type":"post","link":"https:\/\/www.funiber.blog\/pt\/tecnologias-tic\/2022\/06\/29\/funiber-ferramentas-moderacao","title":{"rendered":"Construir ferramentas de detec\u00e7\u00e3o de discurso de \u00f3dio mais robustas"},"content":{"rendered":"

A Microsoft Research desenvolve ferramentas de modera\u00e7\u00e3o capazes de detectar discursos de \u00f3dio impl\u00edcitos contra grupos minoritarios. Estas ferramentas podem ser usadas para os grandes modelos de linguagem (LLM, sigla do termo em ingl\u00eas). Grandes modelos de linguagem surgiram como uma das \u00e1reas de pesquisa mais “quentes” em intelig\u00eancia artificial nos \u00faltimos anos.<\/h2>\n

<\/p>\n

Os chamados “grandes modelos de linguagem” (LLMs) s\u00e3o treinados a partir de grandes quantidades de dados provenientes da Internet. Este sistema \u00e9 capaz de gerar linguagem inadequada e prejudicial, a partir das palavras que recebem pelas redes.<\/p>\n

Como alternativa, foram criadas ferramentas de modera\u00e7\u00e3o de conte\u00fado que podem sinalizar ou filtrar as palavras em alguns contextos.<\/p>\n

Por\u00e9m, em alguns conjuntos de dados, a modera\u00e7\u00e3o n\u00e3o consegue capturar as complexidades de linguagem potencialmente inapropriada e t\u00f3xica, especialmente os discursos de \u00f3dio.<\/p>\n

Nas provas realizadas se encontram insultos, palavr\u00f5es e men\u00e7\u00f5es expl\u00edcitas a grupos de identidade minoritaria. Percebe-se tamb\u00e9m uma dificuldade destas ferramentas em reconhecer refer\u00eancias obscuras ou piadas internas dentro dos discursos de \u00f3dio.<\/p>\n

Como resultado, as ferramentas podem sinalizar qualquer linguagem que fa\u00e7a refer\u00eancia a um grupo de identidade minorit\u00e1ria como discurso de \u00f3dio, mesmo quando essa linguagem for neutra. Alternativamente, as ferramentas treinadas nesses dados n\u00e3o conseguem detectar linguagem prejudicial quando n\u00e3o h\u00e1 insultos conhecidos ou expl\u00edcitos, palavr\u00f5es ou men\u00e7\u00f5es expl\u00edcitas a grupos de identidade minorit\u00e1ria.<\/p>\n

A Microsoft Research vem desenvolvendo pesquisas para melhorar estas ferramentas de modera\u00e7\u00e3o. O estudo \u201cToxiGen: A Large-Scale Machine-Generated Dataset for Adversarial and Implicit Hate Speech Detection<\/a>\u201d mostra exemplos de declara\u00e7\u00f5es neutras com discursos de \u00f3dio a grupos de identidade minoritaria.<\/p>\n

Os pesquisadores disponibilizaram um conjunto de dados, ferramentas de modera\u00e7\u00e3o de conte\u00fado treinadas no conjunto de dados, prompts usados \u200b\u200bcomo dados iniciais e os c\u00f3digos-fonte para a abordagem de decodifica\u00e7\u00e3o advers\u00e1ria proposta no estudo, tudo acess\u00edvel no reposit\u00f3rio do ToxiGen GitHub<\/a>.<\/p>\n

 <\/p>\n

A FUNIBER promove estudos na \u00e1rea de tecnologia, oferecendo bolsas de estudo para programas como:<\/p>\n