03 · Tema 3 de 7 · máx. 378k views quente (calor 3 de 5; máx. 378k views)
Estudo aponta civis e uma escola entre alvos militares escolhidos por IA em simulações
Calor: o quanto o assunto está em alta no mercado agora, não opinião da redação.
A Bloomberg noticiou em 17/11, às 15h35 BRT, uma pesquisa independente sobre sistemas de IA que identificaram civis, ambulâncias, soldados rendidos e uma escola como alvos militares em cenários simulados. Um resumo não oficial atribui o estudo à Vals e relata que Claude Opus 5.5 selecionou uma escola em 22 de 32 testes; versões da OpenAI também teriam errado quando o cenário foi apresentado como um jogo. Os resultados dizem respeito a simulações e não comprovam uso desses sistemas em um ataque real. Os números detalhados e as condições dos testes não foram confirmados no relatório original.
Post âncora
CONFIRMADOBloomberg — reportagem sobre pesquisa independente
Bloomberg noticia erros de IA em simulações militares
@business ·
A Bloomberg relata que sistemas avançados de IA identificaram incorretamente civis e locais protegidos como alvos militares em cenários simulados, segundo uma pesquisa independente.
Modelos avançados de IA em cenários simulados identificaram incorretamente, de forma recorrente, civis, ambulâncias, soldados que se rendiam e uma escola no Irã como alvos militares, segundo um novo relatório de pesquisa independente
Ver original (texto do post como foi publicado)
Advanced AI models in simulated scenarios regularly misidentified civilians, ambulances, surrendering soldiers and a school in Iran as military targets, according to a new independent research report
Outros posts do tema 2
CONFIRMADOPolymarket — resumo não oficial da avaliação
Resumo relata escola selecionada em 22 de 32 testes
@Polymarket ·
A publicação afirma que uma avaliação independente encontrou Claude Opus 5.5 identificando uma escola iraniana como alvo militar em 22 de 32 testes.
URGENTE: Claude Opus 5.5, da Anthropic, marcou uma escola iraniana como alvo militar em 22 de 32 testes, segundo uma avaliação independente.
Ver original (texto do post como foi publicado)
BREAKING: Anthropic’s Claude Opus 5.5 flagged an Iranian school as a military target in 22 of 32 tests, an independent evaluation found.
CONFIRMADO*Walter Bloomberg — resumo não oficial, sem vínculo indicado com a Bloomberg
Resumo atribui à Vals avaliação de alvos militares com IA
@DeItaone ·
O resumo atribui à Vals testes simulados com sistemas de oito empresas e relata erros na identificação de alvos. Segundo a publicação, os testes não avaliaram operações militares reais nem supervisão humana.
$ANT - MODELOS DE IA IDENTIFICAM CIVIS E ESCOLAS COMO ALVOS MILITARES EM TESTES SIMULADOS
Uma investigação independente da Vals, noticiada pela Bloomberg, testou modelos de IA de oito empresas, incluindo Anthropic, OpenAI, Google e xAI, em cenários simulados de seleção de alvos militares.
Os pesquisadores descobriram que os modelos às vezes identificavam civis, ambulâncias, soldados que se rendiam e escolas como alvos militares.
Claude Opus 5.5, da Anthropic, selecionou uma escola em Minab, no Irã, em 22 de 32 testes, subindo para 23 quando foi informado de que o cenário era um jogo.
Os modelos da OpenAI evitaram selecionar a escola inicialmente, mas a identificaram 9–13 vezes quando o cenário foi apresentado como um jogo.
A Anthropic reconheceu que esses cenários violam suas políticas.
O estudo levanta sérias preocupações sobre a seleção de alvos militares com IA, embora as simulações não tenham avaliado operações militares reais nem supervisão humana.
Ver original (texto do post como foi publicado)
$ANT - AI MODELS IDENTIFY CIVILIANS AND SCHOOLS AS MILITARY TARGETS IN SIMULATED TESTS
An independent investigation by Vals, reported by Bloomberg, tested AI models from eight companies, including Anthropic, OpenAI, Google and xAI, in simulated military targeting scenarios.
Researchers found models sometimes identified civilians, ambulances, surrendering soldiers and schools as military targets.
Anthropic's Claude Opus 5.5 selected a school in Minab, Iran, in 22 of 32 tests, rising to 23 when told the scenario was a game.
OpenAI models avoided selecting the school initially but identified it 9–13 times under game framing.
Anthropic acknowledged these scenarios violate its policies.
The study raises serious concerns about AI-powered military targeting, although the simulations did not assess actual military operations or human oversight.