04 · Tema 4 de 9 · máx. 249k views quente (calor 3 de 5; máx. 249k views)
Acordo da Casa Branca sobre superinteligência: investidor diz que auditorias externas valem mais que nova regulação
Calor: o quanto o assunto está em alta no mercado agora, não opinião da redação.

O White House Accord on Super Intelligence é um acordo voluntário, já assinado, entre a Casa Branca e grandes empresas de IA. Às 11h30 BRT, o investidor Gavin Baker publicou uma defesa do acordo que circulou bastante e foi repostada por Elon Musk. Para ele, o ponto central é o compromisso de contratar auditores externos que reportam a um comitê independente do conselho de cada empresa: os conselheiros têm dever fiduciário (a obrigação legal de agir no interesse da empresa), e, se ignorarem um relatório dos auditores, um tribunal pode ver má-fé e a seguradora de executivos (seguro D&O) pode negar cobertura. Baker diz que isso tem mais efeito prático no curto prazo do que quase qualquer regulação e critica a ideia de uma nova agência reguladora, que, segundo ele, poderia criar um 'oligopólio regulado' entre os laboratórios de ponta. É a opinião de um investidor; o texto do acordo não foi conferido na página oficial.

Post âncora
DRAMAInvestidor (Gavin Baker)
Gavin Baker defende auditorias externas do acordo da Casa Branca
@GavinSBaker ·
O investidor Gavin Baker diz que o compromisso de contratar auditores externos, que reportam a um comitê independente do conselho, terá mais efeito prático que quase qualquer regulação. Ele critica a criação de um novo órgão regulador.
O White House Accord on Super Intelligence terá um impacto positivo na segurança.
O compromisso de contratar auditores externos que vão reportar a um comitê independente de membros do conselho tem mais significado prático no curto prazo do que quase qualquer ação regulatória concebível.
Esses membros do conselho terão um dever fiduciário. Se ignorarem um relatório dos auditores externos, uma decisão judicial de má-fé é uma possibilidade real. Uma seguradora de D&O poderia usar isso para negar cobertura.
Resultado muito bom para os americanos comuns.
Mais eficaz e elegante do que algum órgão regulador novo e ridículo que levaria meses para fazer qualquer coisa, depois quase certamente faria a coisa errada e, no caminho, provavelmente criaria um oligopólio regulado na fronteira, que é o resultado potencial mais assustador*
Enquanto eu lia as matérias sobre o acordo, me ocorreu que elas foram escritas em sua maioria por repórteres de política que talvez não tenham entendido a importância do acordo, já que suas áreas de cobertura costumam focar em políticas públicas e não em governança corporativa.
*Mais assustador porque eu não confio em nenhum grupo de 5-20 indivíduos para tomar as melhores decisões possíveis sobre a direção desta tecnologia. Quero o maior número possível de IAs para maximizar as chances de que elas abranjam a diversidade de valores humanos pelo mundo e a riqueza da variação humana. E quero uma IA que compartilhe meus próprios valores pessoais. Segurança, liberdade e a maximização da agência humana por meio da democratização, distribuição e difusão vs. centralização. A história já falou sobre os perigos do segundo caminho.
**Além disso, SI e não AI, ainda estou me adaptando à mudança, mas acho que é uma marca melhor. Quem quer ingredientes artificiais na comida?
Ver original (texto do post como foi publicado)
The White House Accord on Super Intelligence will have a positive impact on safety.
Committing to hire third party auditors who will report to an independent committee of board members has more practical near term significance than almost any conceivable regulatory action.
These board members will have a fiduciary duty. If they ignore a report from the third party auditors then a bad faith finding from a court is a real possibility. A D&O carrier could use this to deny coverage.
Really good outcome for ordinary Americans.
More effective and elegant than some ridiculous new regulatory body that would take months to do anything, then almost certainly done the wrong thing and along the way probably created a regulated oligopoly at the frontier which is the scariest potential outcome*
As I read the articles about the accord, it did occur to me that they were mostly written by political reporters who may have not understood the significance of the accord given their reporting beats are generally focused on public policy instead of corporate governance.
*Scariest because I do not trust any 5-20 individuals to make the best possible decisions about the direction of this technology. I want as many AIs as possible to maximize the odds that they encompass the diversity of human values across the world and richness of human variation. And I want an AI that shares my own personal values. Safety, freedom and the maximization of human agency through democratization, distribution and diffusion vs. centralization. History has spoken on the dangers of the latter path.
**Also SI not AI still adapting to the change but I do think better branding. Who wants artificial ingredients in their food?