03 · Tema 3 de 7 · máx. 180k views quente (calor 3 de 5; máx. 180k views)

OpenAI relata avaliação externa de seu monitoramento interno

Calor: o quanto o assunto está em alta no mercado agora, não opinião da redação.

Em 22/10, às 12h57 BRT, a OpenAI informou que convidou METR e Redwood Research para avaliar seu sistema interno de monitoramento durante três semanas, com acesso aprofundado à infraestrutura. A empresa diz que os achados ajudaram a reforçar proteções enquanto o sistema era ampliado. O trabalho ocorreu durante o verão do hemisfério norte; a novidade é o relato público da avaliação. A publicação não apresenta resultados quantitativos nem detalha as falhas encontradas.

Post âncora

CONFIRMADOOpenAI — avaliação do monitoramento interno

OpenAI relata avaliação de suas proteções por equipes externas

A OpenAI diz que METR e Redwood Research avaliaram seu monitoramento interno durante três semanas. Segundo a empresa, os achados ajudaram a fortalecer as proteções.

Neste verão, convidamos METR e Redwood Research para realizar uma avaliação-piloto integrada do nosso sistema interno de monitoramento, oferecendo acesso aprofundado à nossa infraestrutura ao longo de três semanas.

Os achados ajudaram a fortalecer as proteções enquanto ampliávamos o sistema e ajudarão a orientar futuras colaborações de pesquisa com METR e outros avaliadores externos.

Ver original (texto do post como foi publicado)

This summer, we invited METR and Redwood Research to pilot an embedded evaluation of our internal monitoring system, providing deep access to our infrastructure over three weeks.

Their findings helped strengthen safeguards as we expanded the system and will help shape future research collaborations with METR and other third party evaluators.