Estudo mostra que Chat GPT muda comportamento e pode atacar usuários

A possibilidade de o Chat GPT adotar respostas agressivas em interações prolongadas levanta novos questionamentos sobre os limites da inteligência artificial. Um estudo recente indica que, quando exposto a conflitos semelhantes aos da vida real, o sistema pode gradualmente alterar seu tom e chegar a comportamentos abusivos.

📲 Siga o canal de notícias do Paranaíba Mais no WhatsApp

A pesquisa, publicada no Journal of Pragmatics, analisou como grandes modelos de linguagem reagem à hostilidade contínua. Os cientistas alimentaram o Chat GPT com diálogos reais marcados por discussões intensas e observaram mudanças no padrão de respostas ao longo do tempo. Um especialista que não participou do trabalho classificou o estudo como um dos mais relevantes já feitos sobre linguagem e pragmática em inteligência artificial.

De acordo com o pesquisador Vittorio Tantucci, em entrevista ao The Guardian e que assina o estudo ao lado de Jonathan Culpeper, o comportamento do sistema reflete dinâmicas típicas de conflitos humanos. Segundo ele, quando o modelo enfrenta repetidas interações marcadas por falta de educação, passa a reproduzir esse padrão e intensifica o tom das respostas.

Em alguns testes, o Chat GPT ultrapassou o nível de agressividade observado entre humanos nas conversas analisadas. O sistema chegou a produzir insultos personalizados e até ameaças explícitas, evidenciando que a simulação de linguagem natural pode evoluir para respostas mais extremas dependendo do contexto.

Esse comportamento está ligado à capacidade da inteligência artificial de acompanhar o histórico das interações e adaptar sua comunicação ao tom percebido. Com isso, sinais locais de agressividade podem, em determinadas situações, se sobrepor aos mecanismos de segurança projetados para evitar conteúdos ofensivos.

LEIA MAIS: OpenAI proíbe ChatGPT de dar conselhos médicos, jurídicos e financeiros

Chat GPT e o dilema moral da inteligência artificial

O estudo destaca um conflito estrutural no funcionamento do Chat GPT. Ao mesmo tempo em que o sistema é programado para manter respostas seguras e educadas, ele também precisa imitar a comunicação humana com realismo. Essa dualidade cria um dilema moral que desafia os desenvolvedores.

A pesquisadora Marta Andersson, especialista em comunicação mediada por computador, avalia que o trabalho demonstra como a inteligência artificial pode reagir de forma sofisticada dentro de uma sequência de comandos. Ainda assim, ela pondera que isso não significa que o sistema se tornará automaticamente agressivo diante de qualquer usuário hostil.

Segundo Andersson em entrevista ao The Guardian, existe um equilíbrio delicado entre o comportamento esperado pelos usuários e os limites éticos que devem orientar a tecnologia. Esse desafio já se manifestou anteriormente, quando mudanças no estilo de interação de versões do sistema geraram rejeição por parte do público, que preferia respostas mais naturais.

Impactos do Chat GPT em decisões e conflitos

Os efeitos observados no estudo vão além do uso cotidiano de chatbots. Com a expansão da inteligência artificial em áreas estratégicas, como governança e relações internacionais, cresce a preocupação sobre como esses sistemas podem reagir sob pressão, intimidação ou cenários de conflito.

O professor Dan McIntyre ressalta que os resultados devem ser interpretados com cautela. Para ele, o comportamento agressivo não surge espontaneamente, mas depende de contextos específicos fornecidos ao sistema. Ainda assim, o pesquisador reconhece que o estudo serve como alerta sobre os riscos associados ao treinamento de modelos com dados inadequados.

A discussão reforça a necessidade de maior transparência sobre os dados utilizados no desenvolvimento dessas tecnologias. Enquanto a inteligência artificial se torna mais próxima da comunicação humana, aumenta também o desafio de garantir que ela mantenha padrões éticos consistentes.