Inteligência artificial (IA) errou

Foi revelado que a inteligência artificial atribuiu indevidamente ao autor um fato criminoso praticado por terceiro. Fonte: Juiz manda remover falsa acusação de assédio contra médico de Bauru produzida por inteligência artificial, https://g1.globo.com/sp/bauru-marilia/noticia/2023/06/23/juiz-manda-remover-falsa-acusacao-de-assedio-contra-medico-de-bauru-produzida-por-inteligencia-artificial.ghtml, acessado em 27/06/2023.

 

Foi revelado que o ChatGPT criou diversos casos judiciais. Fonte:  Deu ruim: advogado usou ChatGPT e chatbot inventou casos que não existem, https://www.uol.com.br/tilt/noticias/redacao/2023/05/28/advogado-chatgpt.htm.

 

A inteligência artificial é um modelo, ou em outras palavras, uma simplificação da realidade. Os algoritmos são reducionismos da realidade, pois nem sempre todas as variáveis de um fenômeno são conhecidas pelos cientistas ou existem tantas variáveis que o sistema de equações é extraordinariamente complexo.

 

A simplificação não é um defeito, pois é preciso criar algoritmos factíveis com a prática da realidade para que a inteligência artificial seja usável.

 

Isto significa que sim a IA cometerá erros, por isto é tão importante saber perguntar e saber analisar as respostas. Na imensa maioria dos casos a inteligência artificial produzirá respostas para as boas perguntas, mas em alguns casos ou a pergunta gerará uma resposta falsa ou a IA errará.

 

O estado da arte da tecnologia não permite um copy e paste das respostas da IA sem a realização de uma análise analítica do conteúdo.

 

É preciso ter ciência que existem limitações e a resposta correta virá com a interação do ser humano com a máquina. Em muitos casos, o aprofundamento das perguntas em função das respostas anteriores faz o trabalho de verificação da veracidade e acuracidade da resposta dada pelo cérebro eletrônico.

 

Os erros que aparecerão em maior quantidade em função do volume de uso da IA, servem de parâmetros para reforçar o treinamento da inteligência artificial e de melhoria do modelo matemático dos algoritmos.