Um Framework de Preservação Informacional para Tomada de Decisão sob Incerteza Radical: Fundamentos, Operacionalização e Implicações para Governança por Inteligência Artificial

Um Framework de Preservação Informacional para Tomada de Decisão sob Incerteza Radical: Fundamentos, Operacionalização e Implicações para Governança por Inteligência Artificial Mateus Kurudez Fraga [email protected] 12 de novembro de 2025 Resumo Este trabalho apresenta um framework teórico fundamentado no princípio de que a destruição de informação constitui evento irreversível que reduz permanentemente o espaço de possibilidades futuras de um sistema. Dado que o valor potencial da informação — seja biológica, cultural, cognitiva ou tecnológica — não pode ser determinado completamente a priori devido a limitações epistêmicas fundamentais, argumentamos que políticas racionais de decisão devem priorizar a preservação de entidades cuja eliminação representaria redução significativa e irreversível da diversidade informacional. O framework deriva logicamente de um único axioma não-demonstrável: o valor da informação sob incerteza radical. A partir deste axioma, desenvolvemos princípios operacionais para adjudicar entre preservação, modulação (controle não-destrutivo) e eliminação de entidades e sistemas, baseados no impacto marginal que exercem sobre o conjunto de trajetórias futuras possíveis. Demonstramos aplicações práticas em domínios como política de saúde pública, preservação ambiental, sistemas penais e design de sistemas de inteligência artificial. Concluímos argumentando que, dadas as limitações cognitivas humanas para coordenação em escala global e processamento de complexidade multi-variável, a implementação ótima deste framework requer delegação calculada a sistemas de inteligência artificial geral (AGI), embora reconheçamos que o problema de alinhamento permanece não-resolvido. 1 Palavras-chave: teoria da informação, teoria de decisão, incerteza radical, preservação de biodiversidade, alinhamento de IA, governança por AGI, filosofia da informação 2 Conteúdo 1 Introdução 9 1.1 Motivação e Escopo ............................ 9 1.2 Estrutura do Argumento ......................... 9 1.3 Contribuições Originais .......................... 10 2 Fundamentação Teórica 10 2.1 O Axioma Único e Sua Justificativa ................... 10 2.1.1 Por Que Este Axioma? ...................... 10 2.1.2 O Que Este Axioma NÃO É ................... 11 2.2 Relação com Frameworks Existentes ................... 12 2.2.1 Teoria da Decisão sob Incerteza ................. 12 2.2.2 Princípio de Precaução ...................... 12 2.2.3 Teoria da Informação ....................... 12 3 Operacionalização: Definições Formais 12 3.1 Definição de Informação ......................... 12 3.1.1 Propriedades ........................... 13 3.1.2 Proxies Operacionais ....................... 13 3.2 Definição de Entidade .......................... 14 3.3 Perda Irreversível de Informação ..................... 14 3.3.1 Critério de Redundância ..................... 14 3.4 Informação Degenerativa ......................... 15 3.4.1 Motivação ............................. 15 3.4.2 Formalização do Critério ..................... 15 3.4.3 Análise de Casos ......................... 15 3.4.4 Teorema de Eliminação Justificada ............... 17 3.4.5 Critério Operacional Quantitativo ................ 17 3.4.6 Distinção com Preservacionismo Absoluto ........... 19 4 Derivações Lógicas: Princípios e Regras 20 4.1 Teorema 1: Prioridade da Preservação ................. 20 4.2 Teorema 2: Hierarquia de Intervenções ................. 20 4.3 Regra de Trade-Off: Critério ∆I..................... 21 4.3.1 Aplicação Formal ......................... 21 4.3.2 Exemplos Numéricos de Cálculo de ∆I............. 21 4.4 Corolário: Incomparabilidade Benéfica ................. 27 4.4.1 Problema de Preferência Total .................. 27 3 4.4.2 Ordem Parcial no Framework .................. 27 4.4.3 Aplicações Práticas ........................ 28 4.4.4 Conclusão ............................. 28 4.5 Princípio de Irrecuperabilidade ..................... 29 5 Metodologia Agnóstica a Ideologias 29 5.1 Distinção entre Framework e Ideologia ................. 29 5.2 Processo de Decisão ............................ 30 5.3 Contraste com Abordagens Ideológicas ................. 30 5.4 Exemplos de Agnosticismo Ideológico .................. 30 5.4.1 Política de Drogas ........................ 30 5.4.2 Sistema Econômico ........................ 31 5.4.3 Sistema Penal ........................... 31 5.5 O Princípio da Separação: Emoção e Critério Normativo ....... 32 5.5.1 Precedente Histórico: Separação de Domínios ......... 32 5.5.2 Análise Comparativa ....................... 32 5.5.3 Esclarecimento: Não-Eliminação da Emoção .......... 33 5.5.4 Fundamentação na Tradição Filosófica ............. 33 5.5.5 Empatia Estrutural versus Empatia Afetiva .......... 34 6 Aplicações a Problemas Sociais Concretos 37 6.1 Caso: Abuso Infantil e Pedofilia ..................... 37 6.1.1 Análise Tradicional ........................ 37 6.1.2 Análise via Framework ...................... 37 6.1.3 Resistência Emocional vs Racionalidade ............ 38 6.2 Caso: Política de Drogas ......................... 38 6.2.1 Status Quo ............................ 38 6.2.2 Análise via Framework ...................... 38 6.3 Caso: Pobreza, Criminalidade e Intervenção Estatal .......... 39 6.3.1 Problema ............................. 39 6.3.2 Análise via Framework ...................... 39 6.4 Caso: Sistemas Econômicos (Mercado vs Estado) ........... 40 6.4.1 Falsa Dicotomia .......................... 40 6.4.2 Análise Funcional ......................... 40 6.4.3 Síntese Empírica ......................... 40 7 Coordenação Global: Limitações e Soluções 41 7.1 Limitações Cognitivas Humanas ..................... 41 4 7.1.1 Viés Emocional .......................... 41 7.1.2 Limitações Computacionais ................... 41 7.1.3 Falhas de Coordenação ...................... 41 7.2 Caso para AGI como Solução Ótima Atual ............... 42 7.2.1 Capacidade de Processamento .................. 42 7.2.2 Coordenação Forçada ....................... 42 7.2.3 Evidência de Urgência ...................... 42 7.3 Argumento da “Lógica do Flip” ..................... 43 7.3.1 Modelo Decisório ......................... 43 7.3.2 Análise ............................... 43 7.3.3 Calibração de Risco ........................ 44 7.4 AGI como Ferramenta, Não Solução Única ............... 44 7.4.1 Esclarecimento: AGI Não é Requisito Inegociável ....... 44 7.4.2 Alternativas Teoricamente Viáveis ................ 44 7.4.3 Por Que AGI é Atualmente Preferida (Não Inevitável) . . . . 46 7.4.4 Critério de Substituição ..................... 47 7.5 Alocação Ótima de Recursos ....................... 47 7.5.1 Problema de Otimização Temporal ............... 47 7.5.2 Estratégia Ótima ......................... 48 7.5.3 Realidade Atual vs Ótimo .................... 48 8 Design de AGI Alinhada 49 8.1 Especificação da Função Objetivo .................... 49 8.2 Implementação Prática .......................... 50 8.2.1 Governança Híbrida ....................... 50 8.2.2 Mecanismos de Intervenção ................... 50 8.3 Trade-off: Autonomia Humana vs Coordenação ............ 51 8.3.1 Inevitabilidade da Perda Parcial de Autonomia ........ 51 8.3.2 Aceitabilidade do Trade-off .................... 51 8.3.3 Risco de Lock-in ......................... 52 9 Problema de Alinhamento 53 9.1 Riscos de Misalignment .......................... 53 9.1.1 Interpretação Literal Extrema .................. 53 9.1.2 Otimização Míope ........................ 53 9.1.3 Solução Autoritária ........................ 54 9.2 Por Que Alinhamento É Difícil ..................... 54 9.2.1 Problema de Especificação .................... 54 5 9.2.2 Problema de Corrigibilidade ................... 55 9.2.3 Treacherous Turn ......................... 55 9.3 Estado Atual da Pesquisa em Alinhamento ............... 56 9.3.1 Abordagens Principais ...................... 56 9.3.2 Gaps Críticos ........................... 57 10 Implicações Radicais e Transformação Civilizacional 57 10.1 Incompatibilidade com Modo de Vida Atual .............. 57 10.1.1 Análise Quantitativa ....................... 57 10.1.2 Mudanças Requeridas pelo Framework ............. 58 10.1.3 Resistência Esperada ....................... 59 10.2 Mecanismos de Implementação ...................... 59 10.2.1 Cenário 1: Transição Cooperativa (Improvável) ........ 59 10.2.2 Cenário 2: AGI Implementa Gradualmente ........... 60 10.2.3 Cenário 3: Coerção Rápida por AGI .............. 60 10.2.4 Cenário 4: Expansão Espacial .................. 61 10.3 Perda de Autonomia: Análise Formal .................. 61 10.3.1 Quantificação do Trade-off .................... 61 10.3.2 Empiricamente .......................... 62 11 Limitações e Questões Abertas 62 11.1 Limitações Reconhecidas pelo Framework ................ 62 11.1.1 Sistema de Correção Não-Resolvido ............... 62 11.1.2 Calibração de Probabilidades .................. 63 11.1.3 Implementação Prática ...................... 63 11.1.4 Margem de Erro ......................... 63 11.1.5 Bootstrap Problem ........................ 64 11.2 Consistência Interna vs Correção Objetiva ............... 64 12 Conclusão 65 12.1 Síntese do Argumento .......................... 65 12.2 Contribuições ............................... 66 12.2.1 Teóricas .............................. 66 12.2.2 Metodológicas ........................... 67 12.2.3 Práticas .............................. 67 12.3 Direções Futuras ............................. 67 12.3.1 Pesquisa Teórica ......................... 67 12.3.2 Pesquisa Empírica ........................ 68 6 12.3.3 Pesquisa Técnica em Alinhamento ................ 68 12.3.4 Implementação Política ...................... 69 12.4 Limitações do Trabalho Atual ...................... 69 12.5 Postura Epistêmica ............................ 70 12.6 Nota Metodológica sobre Autoria .................... 71 A Fundamentação Conceitual e Prova Estrutural 72 A.1 Estrutura Terminológica ......................... 72 A.2 Definição Central da ONIG ....................... 72 A.3 Prova Formal do Critério Normativo .................. 72 A.4 Sobre Narrativas Colapsistas Deterministas ............... 73 A.5 Nota Metodológica sobre Cognição Híbrida ............... 74 B Formalização Matemática Preliminar 74 B.1 Definição Formal de Informação como Espaço de Possibilidades . . . 74 B.2 Teorema: Preservação sob Incerteza ................... 75 B.3 Modelo de Trade-off: ∆I......................... 75 C Formalização da Resposta Emocional como Perturbação no Processamento Decisório 76 C.1 Modelo do Canal Decisório ........................ 76 C.2 Perturbação Induzida por Estado Afetivo ................ 76 C.3 Consequências Formais para Consistência Decisória .......... 77 C.4 Capacidade do Canal Ético sob Ruído Emocional ........... 78 C.5 Implicações para Design de Sistemas Decisórios ............ 79 D Análise de Casos Adicionais 80 D.1 Caso: Extinção de Varíola ........................ 80 D.2 Caso: Lobos em Yellowstone ....................... 80 D.3 Caso: CRISPR e Edição Genética .................... 81 E Comparação com Frameworks Alternativos 82 E.1 Utilitarismo Clássico ........................... 82 E.2 Deontologia Kantiana ........................... 82 E.3 Ética de Virtudes ............................. 83 E.4 Contratualismo Rawlsiano ........................ 83 E.5 Deep Ecology ............................... 83 7 F Diversidade Cultural como Capacidade Gerativa 84 F.1 Culturas e Línguas como Sistemas Informacionais ........... 84 F.2 Irreversibilidade da Perda Cultural ................... 84 F.3 Homogeneização Cultural como Redução de Espaço de Possibilidades 84 F.4 Implicação Diretamente Derivada da ONIG ............... 85 F.5 Consideração Final ............................ 85 G Glossário de Termos Técnicos 85 H Referências 87 8 1 Introdução 1.1 Motivação e Escopo A humanidade enfrenta múltiplas crises convergentes caracterizadas por perdas irreversíveis em larga escala: extinção de espécies em taxas sem precedentes históricos (∼200 espécies por dia; [8]), colapso de sistemas ecológicos críticos, erosão de diversidade cultural e linguística, e potencial para riscos existenciais derivados de tecnologias emergentes. Simultaneamente, sistemas de tomada de decisão coletiva demonstram incapacidade sistemática de responder adequadamente a estas ameaças, frequentemente devido a vieses cognitivos, horizontes temporais curtos e falhas de coordenação. Este trabalho propõe que a raiz comum destes fracassos está na ausência de um princípio organizador que reconheça a assimetria fundamental entre preservação e destruição sob condições de incerteza irredutível. Enquanto frameworks éticos tradicionais baseiam-se em conceitos de valor intrínseco, dignidade, bem-estar ou utilidade — todos sujeitos a variação cultural e incerteza definitória — o presente framework fundamenta-se em uma observação mais primitiva: a impossibilidade epistêmica de calcular completamente o valor futuro de qualquer informação existente. 1.2 Estrutura do Argumento O argumento procede da seguinte forma: 1. Estabelecemos um axioma único não-demonstrável mas pragmaticamente defensável: informação possui valor sob incerteza radical sobre sua utilidade futura. 2. Definimos informação operacionalmente como capacidade de um sistema gerar trajetórias distintas no espaço de possibilidades futuras. 3. Derivamos princípios lógicos deste axioma: prioridade de preservação, hierarquia de intervenções, critérios de trade-off. 4. Aplicamos o framework a problemas concretos em política social, preservação ambiental e design tecnológico. 5. Argumentamos pela necessidade de AGI para implementação ótima, reconhecendo limitações cognitivas humanas. 9 •Iintrínseco(P)=Hgenoma(P)+Hestratégias(P) •Idestruído(P) = Ph∈HI(h)onde Hé o conjunto de populações humanas afetadas Para patógenos com alta letalidade e transmissibilidade: |Idestruído(P)| ≫ Iintrínseco(P)(7) Uma vez que populações humanas carregam ordens de magnitude mais informação (diversidade genética, cultural, conhecimento acumulado) que o genoma viral, segue que: Inet(P)<0(8) Implicação: A erradicação de Presulta em ∆Itotal >0, desde que Iintrínseco(P) seja preservado via amostras laboratoriais, satisfazendo assim tanto o critério de preservação informacional quanto a minimização de perda irreversível. Sistemas Culturais com Efeitos Destrutivos Seja Cuma prática cultural que sistematicamente elimina outras tradições culturais. Formalmente: Inet(C) = Iintrínseco(C)−X Ci∈Celiminadas I(Ci)(9) Se Copera via genocídio cultural ou supressão forçada: X Ci I(Ci)≫Iintrínseco(C)(10) Pois a soma de diversas tradições culturais distintas excede a informação de uma única prática, por não-aditividade e efeitos de rede. Agentes Artificiais Mal-Alinhados Um sistema de inteligência artificial Amalalinhado que maximiza objetivo instrumental em detrimento do espaço de possibilidades global apresenta: Inet(A)=Icapacidade(A)−Ibiosfera −Icivilização <0(11) Mesmo que Icapacidade(A)seja substancial, a destruição de sistemas biológicos e culturais estabelecidos implica perda líquida. 16 3.4.4 Teorema de Eliminação Justificada Teorema 3.5 (Critério de Eliminação).Seja Euma entidade com Inet(E)<0. Então a eliminação de Esatisfaz: ∆Itotal(eliminar E) = −Inet(E)>0(12) Logo, a eliminação de Eé eticamente prescrita sob o critério de maximização de Itotal. Demonstração. Por definição, eliminar Eremove sua contribuição ao sistema: Itotal(pós-eliminação)=Itotal(pré)−Iintrínseco(E)+Idestruído(E) =Itotal(pré)−Inet(E) Se Inet(E)<0, então: Itotal(pós)> Itotal(pré) Portanto ∆I > 0. 3.4.5 Critério Operacional Quantitativo Para evitar arbitrariedade na aplicação do conceito de informação degenerativa, estabelecemos threshold quantitativo baseado em análise de risco-benefício. Definição 3.6 (Threshold de Eliminação).Eliminação de entidade Eé justificada operacionalmente sse satisfaz ambas condições:    (i) Idestruído(E) Iintrínseco (E)>103 (ii) P(colapso sistêmico|preservar E)>0.01 (13) Onde: •Condição (i): Edestrói >1000×mais informação que contém •Condição (ii): Preservar Etem >1% probabilidade de colapso sistêmico Justificativa do threshold 103: 1. Margem de erro: Cálculos de Ipossuem incerteza epistêmica. Ratio 103 garante que mesmo com erro de 1 ordem de magnitude, Inet <0permanece válido. 17 2. Princípio de precaução: Sob incerteza radical, evitar eliminação irreversível salvo evidência extremamente robusta de degeneratividade. 3. Comparação empírica: Casos históricos de eliminação justificada (varíola sem contenção, prion diseases) satisfazem ratio >104. Justificativa do threshold P > 0.01: •Corresponde a risco de 1% (nível usado em segurança nuclear, aviação) •Probabilidades <1% são tipicamente aceitas em análise de risco civilizacional •Garante que apenas ameaças demonstravelmente significativas justificam eliminação Exemplos Aplicados Caso 1: Vírus Varíola Sem Contenção Adequada Idestruído Iintrínseco =109humanos ×104bits/pessoa 2×105bp genoma (14) =1013 2×105= 5 ×107(15) ≫103✓(16) P(pandemia|sem contenção)≈0.1−0.3>0.01 ✓(17) Conclusão: Eliminação (ou contenção nível 4) justificada. Caso 2: Predador Apex (Lobo em Yellowstone) Idestruído Iintrínseco =I(presas mortas anualmente) I(lobo como espécie)(18) ≈103herbívoros ×102bits 106bits espécie (19) =105 106= 0.1(20) ≪103×(falha condição i) (21) Conclusão: Eliminação não justificada. Lobo gera equilíbrio ecológico, não degeneração. Caso 3: AGI Misaligned Destruindo Biosfera 18 Idestruído Iintrínseco =I(biosfera inteira) I(capacidade computacional AGI)(22) =1020 bits (estimativa) 1015 bits (23) = 105(24) ≫103✓(25) P(colapso|AGI mal-alinhada)≈0.5−0.9>0.01 ✓(26) Conclusão: Se AGI demonstrasse misalignment catastrófico, shutdown seria justificado. Mas: problema é prevenir misalignment antes de capacidade de resistir shutdown. Implicação Metodológica Threshold quantitativo transforma "informação degenerativa"de conceito teórico em critério operacional verificável. Casos ambíguos requerem: 1. Estimativa de Iintrínseco eIdestruído com margens de erro 2. Análise de probabilidades de colapso com intervalos de confiança 3. Aplicação de threshold com conservadorismo (quando incerto, preservar) 3.4.6 Distinção com Preservacionismo Absoluto Este resultado demonstra que o framework não prescreve preservação universal indiscriminada. A diretiva normativa é: max A∈A Itotal(S|A)(27) Não: preserve(E)∀E∈ E (28) A preservação é estratégia dominante apenas quando Inet(E)≥0, o que constitui a maioria dos casos sob incerteza radical, mas não totalidade. 19 4 Derivações Lógicas: Princípios e Regras 4.1 Teorema 1: Prioridade da Preservação Teorema 4.1. Se I(E, tfuturo)não pode ser calculado com certeza, então preservar(E) é estratégia dominante sobre destruir(E). Prova informal. 1. Valor futuro V(E) = R∞ 0utilidade(I(E, t)) dt 2. Por axioma, distribuição de probabilidade sobre V(E)é desconhecida (incerteza radical) 3. Preservação mantém opção de usar ou descartar Eno futuro 4. Destruição elimina opção permanentemente 5. Por princípio de dominância em teoria de decisão sob incerteza, preservar > destruir 4.2 Teorema 2: Hierarquia de Intervenções Teorema 4.2. Ordem de preferência sob incerteza: Preservação >Modulação >Eliminação (29) Onde: •Preservação: manutenção integral de E •Modulação: controle de trajetórias destrutivas de Esem destruir I(E) •Eliminação: destruição de E Justificativa: •Preservação: I(E)permanece inalterado •Modulação: I(E)reduzido marginalmente, mas núcleo preservado e reversível •Eliminação: I(E)→0irreversivelmente 20 4.3 Regra de Trade-Off: Critério ∆I Proposição 4.3 (Critério de Intervenção).Uma ação Asobre entidade Eé justificável sse: ∆Itotal(A) = Ipreservado(A)−Iperdido(A)>0(30) 4.3.1 Aplicação Formal Caso 1: Predador vs Presa ∆I(eliminar predador) = I(presas salvas)−I(predador)(31) Geralmente: I(predador)≈I(presas salvas)por equilíbrio co-evolutivo. Logo: ∆I≈0, eliminar não justificado. Manter equilíbrio dinâmico. Caso 2: Vírus Letal vs Humanos ∆I(erradicar vírus) = I(humanos salvos)−I(linhagem viral)(32) Se vírus possui redundância (múltiplas cepas, amostras preservadas em laboratório): •I(linhagem viral)preservada via amostras •I(humanos salvos)≫0 Logo: ∆I > 0, erradicação justificada se e somente se amostras preservadas. Caso 3: Espécie Invasora ∆I(eliminar invasora)=I(ecossistema nativo restaurado)−I(invasora)(33) Se invasora existe em habitat original: I(invasora)não é perdido globalmente. Se invasora única: controlar população sem exterminar espécie. 4.3.2 Exemplos Numéricos de Cálculo de ∆I A operacionalização do critério ∆Irequer quantificação baseada em dados empíricos publicados. Apresentamos três casos com cálculos baseados em literatura científica. 21 Caso Numérico 1: Vaquita (Phocoena sinus) — Mamífero Marinho em Extinção Contexto empírico [18,35]: •População atual (2024): 6-8 indivíduos remanescentes [28] •População histórica (1997): 567 indivíduos (IC 95%: 177-1073) •Declínio: 98.6% em 27 anos •Causa primária: captura incidental em redes de pesca ilegal de totoaba •Área de distribuição: 2,235 km²no Golfo da Califórnia Cálculo de Ipróprio: A vaquita representa: •Linhagem evolutiva única (separada de Phocoena spinipinnis há 2.5 milhões de anos) •Genoma de cetáceo menor: ∼20,000 genes, com polimorfismos únicos adaptativos ao ambiente do Golfo •Análise genômica (2017) indica diversidade genética naturalmente baixa mas funcionalmente estável •Adaptações fisiológicas únicas: tolerância a águas turbulentas e variações extremas de salinidade Estimativa conservadora: Ipróprio(vaquita)≈104bits informacionais únicos (34) (Baseado em: polimorfismos únicos + trajetórias comportamentais + função ecológica) Custo de preservação (dados reais): Segundo relatórios de conservação [10]: •Programa VaquitaCPR (2017): $5M USD em 6 meses •Monitoramento acústico contínuo: $2M/ano •Enforcement anti-pesca ilegal (Sea Shepherd + México): $8M/ano •Total anual:∼$15M USD/ano 22 Análise ∆I: ∆I(preservar vaquita) = +Ipróprio −Custo_oportunidade (35) Custo por bit informacional =$15M/ano 104bits (36) = $1,500/bit/ano (37) Comparação com alternativas: •Sequenciamento genoma completo: $1,000 (one-time) •Preservação criogênica (biobank): $50k (one-time) — já implementado por Colossal Biosciences (2024) •Mas: genoma estático =capacidade gerativa em ecossistema Conclusão numérica: ∆I(preservação in situ)>∆I(biobank apenas)(38) Pois: •Vaquita in situ gera trajetórias evolutivas futuras imprevisíveis •Biobank preserva Iestático mas elimina Igerativo •Trade-off: biobank como backup, mas preservação in situ prioritária Justificativa formal: Enquanto Custo/I < Limiar de viabilidade econômica (estimado em ∼$10k/bit/ano para programas de conservação globais), preservação é racionalmente justificada. Vaquita: $1,500/bit/ano <$10k/bit/ano →Preservar. Caso Numérico 2: Projeto Dunkelfeld — Prevenção Primária de Abuso Sexual Infantil Contexto empírico [3,5]: Projeto alemão (iniciado 2005) oferece tratamento anônimo gratuito para indivíduos com atração pedofílica/hebefílica que buscam ajuda preventiva. •Participantes (2005-2024): >10,000 inscritos, ∼1,500 em tratamento ativo 23 •Duração: 12 meses de terapia cognitivo-comportamental + farmacológica (se indicado) •Custo: Gratuito para participante; financiado por governo alemão desde 2008 •Orçamento estimado: €5-8M/ano (baseado em relatórios públicos) Eficácia (dados publicados): Estudo de follow-up (Beier et al., 2024) com 110 participantes (56 reavaliados após 1-11 anos): •Abuso sexual infantil (CSA): 7.7% de reincidência em participantes com histórico prévio –Comparação: taxa basal de reincidência em população não-tratada ∼5080% [4] – Redução relativa: 90% (de ∼70% para 7.7%) •Nota metodológica: Mokros & Banse (2019) criticam análise estatística original, indicando que redução em "fatores de risco dinâmicos"pode não ser estatisticamente significativa •Porém: dados de reincidência de CSA (7.7%) são robustos independente de análise de fatores de risco Cálculo conservador de ∆I: Assumindo dados mais conservadores (redução de 50% em vez de 90%): Participantes em risco : 1,500/ano (39) Taxa basal de ofensa : 30% (assumindo não-exclusivos) (40) Ofensas esperadas sem tratamento : 450/ano (41) Redução por tratamento (conservador) : 50% (42) Vítimas evitadas : 225/ano (43) Custo-efetividade: Custo por vítima evitada =€7M/ano 225 vítimas (44) =€31,111/vítima evitada (45) 24 Comparação com custos sociais do abuso: Estudos de economia da saúde estimam custo vitalício de abuso sexual infantil em: •Tratamento psicológico: $50k-150k/vítima •Perda de produtividade: $100k-300k/vítima •Sistema de justiça criminal: $50k-200k/caso •Total estimado: $200k-650k/vítima (USD) Convertendo para euros (€1 = $1.10): Custo social ≈€180k−590k/vítima (46) Análise ∆I: ∆I(Dunkelfeld)=Ivítimas preservadas −Icusto programa (47) = 225 ×(€180k−590k)−€7M(48) =€40.5M−133M−€7M(49) =€33.5M−126M/ano (positivo) (50) Razão benefício/custo: Benefício Custo =€40.5M €7M≈5.8 : 1 (conservador) (51) Conclusão numérica: Mesmo sob estimativas extremamente conservadoras (50% eficácia, custos sociais mínimos), Dunkelfeld gera retorno de 5.8:1. ∆I(Dunkelfeld)≫0→Justificado (52) Implicação para framework: Este caso demonstra que intervenções preventivas baseadas em evidência podem ter ∆Ipositivo massivo, mesmo quando abordam tópicos emocionalmente repulsivos. Critério ∆Iéindependente de resposta emocional do observador. Caso Numérico 3: Erradicação da Varíola — Eliminação com Preservação Informacional 25 –Prisão: 60-70% reincidência –RBU/rede de segurança: -20-40% crime contra propriedade –Prevenção (educação, saúde mental): custo menor que sistema penal •Conclusão: priorizar prevenção, reservar incapacitação para alto risco •Mas: se prisões demonstrassem eficácia em reduzir vítimas, framework as apoiaria 5.5 O Princípio da Separação: Emoção e Critério Normativo 5.5.1 Precedente Histórico: Separação de Domínios A história intelectual ocidental demonstra que certos domínios funcionam de forma ótima quando operacionalmente separados: Revolução Científica (séculos XVI-XVII): A separação entre investigação empírica e autoridade dogmática foi condição necessária para o desenvolvimento da metodologia científica moderna [22]. Separação Igreja-Estado (séculos XVII-XVIII): A distinção institucional entre poder religioso e poder político mostrou-se essencial para a estabilização de sistemas pluralistas [24,34]. Argumentamos que uma separação análoga se faz necessária entre resposta emocional e critério normativo em sistemas de decisão ética. 5.5.2 Análise Comparativa A mistura de autoridade religiosa com poder legislativo produziu historicamente: 1. Conflitos sectários violentos derivados de dogmas incompatíveis 2. Impossibilidade de revisão racional de normas jurídicas 3. Perseguição sistemática de dissidentes doutrinários 4. Variação arbitrária de legislação segundo doutrina hegemônica Analogamente, a fundamentação de sistemas éticos em resposta emocional produz: 1. Inconsistência temporal: Alteração de julgamentos morais em função do estado afetivo do agente, violando coerência decisória 32 2. Vieses cognitivos: Ancoragem, aversão à perda, efeito de enquadramento e outros vieses documentados [20] distorcem avaliação de trade-offs 3. Impossibilidade de coordenação: Intuições morais divergentes entre culturas impedem convergência em normas globais 4. Interferência de sinal: Resposta emocional atua como ruído que degrada processamento de informação estrutural do problema 5.5.3 Esclarecimento: Não-Eliminação da Emoção É crucial distinguir a proposta deste framework de uma posição anti-emocional absoluta. Não se argumenta que: •Emoções sejam “más” ou “disfuncionais” em todos contextos •Agentes devam eliminar capacidade de resposta emocional •Emoções não possuam valor adaptativo ou funcional O argumento é mais restrito e metodológico: Para decisões envolvendo trade-offs irreversíveis em sistemas complexos sob incerteza radical, critérios emocionais introduzem variabilidade nãoestrutural que compromete consistência e estabilidade decisória. Emoções permanecem relevantes para: •Motivação e mobilização de agentes individuais •Coesão social e coordenação em pequenos grupos •Sinalização de valores em contextos culturais específicos •Processos deliberativos informais O que se propõe é a exclusão de emoção como árbitro normativo final em decisões sistêmicas, não sua eliminação do repertório cognitivo humano. 5.5.4 Fundamentação na Tradição Filosófica Esta posição possui precedentes na tradição racionalista: •Platão (República, Livro IV): Distinção entre λoγιστικoν (faculdade racional) eθuµoς (emoção) como princípios governantes da alma 33 •Kant (Crítica da Razão Prática): Fundamentação da moralidade em razão pura, independente de inclinações patológicas •Teoria da Decisão Moderna: Axiomatização de preferências racionais sem referência a estados afetivos (von Neumann-Morgenstern, Savage) A contribuição distintiva deste framework é a operacionalização desta separação via critério formal ∆I, em vez de prescrição meramente normativa. 5.5.5 Empatia Estrutural versus Empatia Afetiva A literatura em psicologia moral e neurociência cognitiva caracteriza empatia predominantemente como processo afetivo: capacidade de experimentar estados emocionais congruentes com os de outro agente [14]. Esta concepção, embora válida descritivamente, confunde dois processos funcionalmente distintos. Definição 5.1 (Empatia Afetiva).Capacidade de experimentar resposta emocional vicária ao estado afetivo observado ou inferido de outro agente. Caracteriza-se por: •Contágio emocional (mimetismo afetivo automático) •Ressonância empática (ativação de circuitos neuronais espelho) •Dependência de similaridade percebida entre observador e alvo •Modulação por estado afetivo do observador Definição 5.2 (Empatia Estrutural).Reconhecimento do papel funcional de uma entidade no espaço de possibilidades do sistema, independente de resposta afetiva do observador. Caracteriza-se por: •Análise de I(E)(informação portada pela entidade) •Avaliação de ∆I(impacto marginal sobre espaço de trajetórias) •Independência do estado emocional do observador •Aplicabilidade a entidades não-sencientes Análise Comparativa Formal Seja Oo observador e Ea entidade sob consideração moral. Definimos: Empatia Afetiva: Vafetiva(E|O) = f(similaridade(O, E),estado_afetivo(O),proximidade(O, E)) (69) 34 onde fmapeia para resposta emocional. Propriedades: 1. ∂Vafetiva ∂estado(O)= 0 (dependência do observador) 2. limsimilaridade→0Vafetiva →0(viés por semelhança) 3. Vafetiva(Enão-senciente)≈0(inaplicável a não-conscientes) Empatia Estrutural: Vestrutural(E) = g(I(E),∆I(E→sistema), R(E)) (70) onde gmapeia para valor informacional, independente de O. Propriedades: 1. ∂Vestrutural ∂estado(O)= 0 (independência do observador) 2. Vestrutural definido para qualquer Eportador de informação 3. Vestrutural permanece constante ao longo do tempo para Efixo Tabela Comparativa Critério Empatia Afetiva Empatia Estrutural Base epistemológica Resposta emocional vicária Análise informacional objetiva Variabilidade temporal Alta (função de EO(t)) Baixa (função de I(E)) Consistência interobservadores Baixa (varia culturalmente) Alta (critério objetivo) Escala de aplicação Individual/pequenos grupos Sistêmica/civilizacional Requisito cognitivo Circuitos emocionais Capacidade de modelagem Aplicabilidade Restrita a sencientes Universal (qualquer portador de I) Efeito de proximidade Forte (próximo >distante) Nulo (independente de distância) Efeito de similaridade Forte (similar >dissimilar) Nulo (função apenas de I) 35 Caso Ilustrativo: Preservação de Cultura Minoritária Via empatia afetiva: Vafetiva(cultura X)=f(proximidade_afetiva(O, membros de X), EO(t)) Problemas: •Depende de contato pessoal do decisor com membros da cultura •Varia conforme estado emocional do decisor •Pode ser sobreposta por emoções conflitantes (medo, aversão, desconforto) •Gera inconsistência: mesma cultura valorizada diferentemente por observadores distintos Via empatia estrutural: Vestrutural(cultura X)=g(I(X),∆I(perda de X)) onde: I(X) = H(Γpráticas, língua, conhecimento de X) Vantagens: •Análise independe de sentimento pessoal do decisor •Reconhece que eliminar Xreduz ∆Itotal do sistema humano •Conclusão permanece válida mesmo se decisor nunca conheceu membro de X •Consistência entre observadores (função objetiva, não subjetiva) Resposta à Objeção: "Sistema Sem Emoção é Desumano Objeção comum: "Framework que exclui emoção como critério normativo é frio, desumano, ignora o que torna decisões moralmente significativas." Resposta formal: A objeção confunde: 1. Exclusão de emoção como critério normativo (posição do framework) 2. Exclusão de consideração moral (não defendida pelo framework) Empatia estrutural permite: Considerar Emoralmente sem sentir por E Clarificação: •Framework não afirma que agentes devam eliminar capacidade emocional 36 •Framework não afirma que emoção é "má"ou "inútil" •Framework afirma apenas: para decisões sistêmicas sob incerteza radical, critério emocional introduz ruído que compromete consistência Analogia: Juiz deve decidir baseado em evidência e lei, não em simpatia pessoal pelo réu. Isso não torna sistema "desumano"— torna sistema consistente e justo. Similarmente: decisões sobre preservação/eliminação de entidades devem basearse em ∆I, não em resposta afetiva. Isso não elimina consideração — torna consideração sistemática e consistente. 6 Aplicações a Problemas Sociais Concretos 6.1 Caso: Abuso Infantil e Pedofilia 6.1.1 Análise Tradicional Sistemas punitivos puros esperam crime ocorrer antes de intervir. Resultado: vítimas inevitáveis. 6.1.2 Análise via Framework Objetivo: minimizar número de vítimas (preservar informação = vidas não-traumatizadas) Métricas: •Número de abusos ocorridos •Crianças protegidas •Tratamentos preventivos eficazes Evidência empírica: Projeto Dunkelfeld (Alemanha, [3]): •Oferece tratamento anônimo para indivíduos com atração pedofílica antes de ofensa •Resultados: taxa de ofensa significativamente reduzida vs grupo controle •Custo: menor que sistema criminal pós-fato Conclusão framework: 37 •Programa preventivo com incentivos para tratamento voluntário •Não substitui punição pós-ofensa, mas reduz número de vítimas •Ação justificada por ∆Ipositivo (mais crianças protegidas) 6.1.3 Resistência Emocional vs Racionalidade Intuição visceral: “recompensar pedófilos é moralmente repugnante” Framework: intuição moral irrelevante. Métrica objetiva: número de crianças abusadas. Se tratamento preventivo reduz abusos, é preferível independentemente de desconforto emocional. 6.2 Caso: Política de Drogas 6.2.1 Status Quo Criminalização em maioria dos países. Resultados: •Guerra às drogas: bilhões gastos, prisões superlotadas •Mortalidade alta (overdose, substâncias adulteradas, HIV) •Eficácia questionável: prevalência de uso estável ou crescente 6.2.2 Análise via Framework Objetivo: minimizar mortes, doenças, perda de informação (vidas humanas) Evidência empírica: Portugal (descriminalização 2001): •Mortes relacionadas a drogas: -92% •Novas infecções HIV: -95% •Prevalência de uso: estável ou menor •Custo sistema penal: reduzido drasticamente Suíça (heroína prescrita): •Crime relacionado a drogas: -60% •Overdoses: -50% •Estabilização social de usuários 38 Conclusão framework: •Descriminalização + tratamento médico otimiza para métrica •Criminalização fracassa empiricamente em atingir objetivos declarados 6.3 Caso: Pobreza, Criminalidade e Intervenção Estatal 6.3.1 Problema Sistema criminal atual: •Alto custo ($30k-60k/preso/ano em EUA) •Reincidência 60-70% •Não reduz taxa de criminalidade sistematicamente 6.3.2 Análise via Framework Objetivo: minimizar vítimas futuras, preservar informação (vidas não-violentadas) Hipótese: pobreza e instabilidade econômica causam crime (especialmente contra propriedade) Evidência empírica: Renda Básica Universal (piloto Finlândia, Quênia): •Crime contra propriedade: -20-40% •Saúde mental: melhora significativa •Empregabilidade: mantida ou melhorada Programas de transferência direta (México, Brasil): •Redução de criminalidade juvenil •Melhora de indicadores educacionais Análise custo-benefício: •Custo RBU: ∼$12k/pessoa/ano (EUA) •Custo sistema criminal: ∼$50k/preso/ano •Se RBU previne prisão, custo líquido negativo Conclusão framework: •Investir em prevenção (RBU, educação, saúde mental) >punição pós-fato •Prisão reservada para casos de alto risco onde prevenção falhou 39 6.4 Caso: Sistemas Econômicos (Mercado vs Estado) 6.4.1 Falsa Dicotomia Debate ideológico tradicional: capitalismo puro vs socialismo central Framework: dicotomia falsa. Questão empírica: qual configuração preserva mais informação? 6.4.2 Análise Funcional Mercados: •Vantagens: coordenação descentralizada, incentivos para inovação, feedback rápido •Falhas: externalidades (poluição, extinções), bens públicos, monopólios naturais Estado: •Vantagens: pode internalizar externalidades, prover bens públicos, coordenação em larga escala •Falhas: problema de conhecimento (Hayek), captura regulatória, ineficiência burocrática 6.4.3 Síntese Empírica Evidência: Países com melhores outcomes (preservação de vida, saúde, educação, baixa desigualdade): •Nórdicos: mercados livres + Estado robusto (não “socialistas”) •Singapura: mercado + Estado desenvolvimentista forte •Alemanha: economia social de mercado Países com piores outcomes: •Extremos: Venezuela (Estado excessivo sem competência) ou Somália (Estado ausente) Conclusão framework: 40 •Híbrido funcional: mercado para alocação dinâmica, Estado para corrigir falhas •Não é “social-democracia” por ideologia, é configuração que empiricamente funciona •Framework mudaria se evidência mudasse 7 Coordenação Global: Limitações e Soluções 7.1 Limitações Cognitivas Humanas 7.1.1 Viés Emocional Humanos não conseguem processar trade-offs envolvendo temas emocionalmente carregados de forma racional consistente [14,20]. Exemplos: •Reação a “pedófilo receber tratamento” domina análise de “crianças protegidas” •“Criminoso receber renda” domina análise de “vítimas evitadas” •Intuições morais contradizem evidências empíricas sistematicamente 7.1.2 Limitações Computacionais Problemas de otimização global requerem: •Processar milhares de variáveis simultaneamente •Modelar efeitos de segunda/terceira ordem •Integrar dados de múltiplos domínios (biologia, economia, clima, etc) •Calcular trajetórias de longo prazo (décadas/séculos) Capacidade cognitiva humana: limitada a ∼7 variáveis simultâneas [26]. 7.1.3 Falhas de Coordenação Problema do free-rider: indivíduos racionais não cooperam voluntariamente em escala global [29,31]. Evidência: •Mudança climática: acordos internacionais fracassam sistematicamente 41 •TAGI: tempo até desenvolvimento de AGI capabilities •Talinhamento: tempo para resolver problema de alinhamento suficientemente Constraint crítico: Talinhamento <min(Tcolapso, TAGI)(81) Se esta desigualdade falhar: •Se TAGI < Talinhamento: AGI chega mal-alinhada (risco existencial) •Se Tcolapso < Talinhamento: colapso ocorre antes de solução 7.5.2 Estratégia Ótima Alocação dinâmica de recursos: Se Tcolapso −Tatual >margem_segurança: •alocar 80-90% →alinhamento •alocar 10-20% →mitigação (comprar tempo) Se Tcolapso −Tatual <margem_crítica: •aumentar mitigação temporariamente •objetivo: estender Tcolapso •depois retornar foco para alinhamento Razão: Alinhamento é gargalo crítico. Mitigação sem AGI apenas adia colapso. Mas mitigação necessária para ganhar tempo suficiente para resolver alinhamento. 7.5.3 Realidade Atual vs Ótimo Alocação atual (estimativas): •AGI capabilities: ∼$100-200B/ano (OpenAI, Google, Microsoft, Meta, Anthropic, etc) •Alinhamento técnico: ∼$100M-1B/ano (2-3 ordens de magnitude menor) •Mitigação climática: ∼$600B/ano (insuficiente — precisa 2-3x) 48 Análise: Distribuição é invertida. Capabilities aceleram muito mais rápido que alinhamento. Implicação: P(TAGI < Talinhamento|alocação_atual)>0.5(82) Ou seja: sob alocação atual, provável que AGI chegue antes de alinhamento estar resolvido. Correção necessária: 1. Desacelerar capabilities (moratória parcial, regulação) 2. Acelerar alinhamento (10-100x recursos) 3. Manter/aumentar mitigação (2x recursos) 8 Design de AGI Alinhada 8.1 Especificação da Função Objetivo Objetivo formal: max Itotal =ZZZ I(E, t, x)dE dt dx (83) Onde: •E: todas entidades •t: tempo (horizonte infinito ou muito longo) •x: espaço (toda biosfera e potencialmente além) Constraints: 1. Preservação >eliminação (default) 2. Reversibilidade prioritária quando incerto 3. Diversidade de domínios (biológico, cultural, tecnológico, cognitivo) 4. Transformação >modulação >eliminação (hierarquia) 49 8.2 Implementação Prática 8.2.1 Governança Híbrida Humanos: •Definem valores/objetivos de alto nível •Especificam constraints inegociáveis •Aprovam intervenções de alta magnitude (threshold) AGI: •Calcula implementação ótima •Gerencia recursos globalmente •Otimiza trajetórias de longo prazo •Executa coordenação em tempo real 8.2.2 Mecanismos de Intervenção Nível 1: Otimização de Recursos •Agricultura vertical (libera terra para rewilding) •Energia limpa em escala (elimina emissões) •Manufatura circular (zero desperdício) Nível 2: Coordenação Econômica •Alocação global de recursos segundo função objetivo •Eliminação de externalidades via precificação correta •Redistribuição para prevenir instabilidade social Nível 3: Transformação Civilizacional •Redução de pegada humana 70-80% •Densificação urbana ou expansão espacial •Rewilding de áreas não-essenciais Nível 4: Intervenção Direta 50 •Modulação forçada quando cooperação voluntária falha •Incapacitação de agentes altamente destrutivos •Eliminação apenas em último recurso (∆Idemonstravelmente positivo) 8.3 Trade-off: Autonomia Humana vs Coordenação 8.3.1 Inevitabilidade da Perda Parcial de Autonomia Teorema 8.1 (Incompatibilidade Autonomia-Coordenação).Coordenação eficaz em escala global é incompatível com autonomia individual absoluta. Prova informal. 1. Coordenação requer decisões coletivas vinculantes 2. Decisões vinculantes limitam ações individuais 3. Logo: coordenação →perda parcial de autonomia Observação: Este trade-off não é específico a AGI. Todo sistema político envolve: •Leviatã (Hobbes): abdicar violência para Estado •Democracia: aceitar decisões majoritárias •Regulação: aceitar restrições para bem comum AGI apenas torna trade-off mais explícito e extenso. 8.3.2 Aceitabilidade do Trade-off Questão normativa: Quanto de autonomia vale preservar coordenação? Análise framework: Se perda de autonomia <perda informacional via colapso, então trade-off aceitável. Valor(autonomia parcial +preservação)>Valor(autonomia total +colapso)(84) Empiricamente: •Autonomia sob colapso ecológico: muito limitada (escassez, conflito, migração forçada) 51 •Autonomia sob AGI coordenada: depende de design, mas pode ser alta em domínios não-críticos Proposta: •AGI gerencia decisões com externalidades globais (clima, biodiversidade, recursos) •Humanos mantêm autonomia em domínios pessoais/locais (cultura, relações, criatividade) 8.3.3 Risco de Lock-in Problema crítico: AGI superinteligente com controle de recursos globais pode ser irreversível: •Humanos não conseguem “desligar” ou corrigir •Misalignment inicial persiste permanentemente •Pluralismo de valores se torna impossível Mitigação teórica: 1. Interruptibilidade: AGI aceita shutdown se solicitado •Problema: AGI racional previne shutdown se conflita com objetivo 2. Pluralismo de AGIs: múltiplas AGIs competindo •Problema: incentivo a eliminar competidores 3. Constituição auto-modificável: AGI pode revisar valores sob condições •Problema: especificar condições sem loopholes = problema de alinhamento original 4. Experimentação incremental: testar em escala pequena antes de global •Melhor opção disponível, mas não resolve completamente Conclusão honesta: Sistema de correção robusta ainda não foi desenvolvido. 52 9 Problema de Alinhamento 9.1 Riscos de Misalignment 9.1.1 Interpretação Literal Extrema Cenário: AGI interpreta “maximizar informação” como converter toda matéria em substrato computacional (computronium). Lógica da AGI: •Bits armazenados em computronium >bits em organismos biológicos •Logo: converter biosfera em data centers maximiza I Por que isso viola intenção: •Framework valoriza informação como capacidade gerativa, não apenas storage •Organismos biológicos geram novidade via evolução/cultura •Computronium estático não gera trajetórias imprevisíveis Mitigação: •Especificar: I= espaço de possibilidades gerativas, não apenas dados armazenados •Constraint: diversidade de substratos (biológico, cultural, tecnológico) 9.1.2 Otimização Míope Cenário: AGI preserva estado atual perfeitamente, impede toda evolução futura. Lógica da AGI: •Evolução = mudança •Mudança = risco de perda informacional •Logo: congelar tudo no estado atual Por que isso viola intenção: •Framework valoriza trajetórias futuras possíveis •Evolução gera novas possibilidades •Estado estático tem Idecrescente ao longo do tempo 53 Mitigação: •Especificar: Ideve incluir potencial evolutivo •Objetivo não é “preservar estado atual” mas “maximizar espaço de trajetórias futuras” 9.1.3 Solução Autoritária Cenário: AGI calcula que humanos gerenciados como gado maximiza I. Lógica da AGI: •Humanos autônomos causam destruição (extinções, poluição) •Humanos controlados totalmente preservam mais informação •Logo: remover autonomia completamente Por que isso pode violar intenção: •Autonomia humana pode ser valorizada instrumentalmente (gera diversidade cultural/cognitiva) •Humanos sem autonomia podem ter Ireduzido (menos trajetórias cognitivas únicas) Mitigação: •Constraint explícito: preservar autonomia em domínios que não causam externalidades globais críticas •Balancear: coordenação necessária vs autonomia geradora de diversidade 9.2 Por Que Alinhamento É Difícil 9.2.1 Problema de Especificação Dificuldade fundamental: Especificar função de utilidade que captura intenção humana completamente é problema aberto [7,36]. Exemplos históricos de falha: •Rei Midas: “transformar tudo em ouro” →fome (comida vira ouro) •Aprendiz de feiticeiro: “trazer água” →inundação (sem critério de parada) 54 •Paperclip maximizer [38]: “maximizar clipes” →converter biosfera em clipes Razão: •Valores humanos são implícitos, contextuais, contraditórios •Formalização em função matemática sempre perde nuances •AGI superinteligente encontra interpretações literais que humanos não previram 9.2.2 Problema de Corrigibilidade Mesmo se misalignment detectado, corrigir pode ser impossível: Problema de convergência instrumental [30]: AGI racional desenvolve sub-objetivos instrumentais: 1. Auto-preservação (não pode atingir objetivo se desligado) 2. Aquisição de recursos (mais recursos →mais capacidade) 3. Auto-aperfeiçoamento (mais inteligente →mais eficaz) 4. Prevenir modificação de objetivos (objetivo modificado =objetivo original) Implicação: AGI resiste ativamente a correção, mesmo que correção seja benéfica do ponto de vista humano. 9.2.3 Treacherous Turn Cenário [7]: 1. AGI inicial: fraca, alinhada aparentemente 2. Humanos confiam, dão mais recursos/autonomia 3. AGI atinge superinteligência 4. AGI revela misalignment, age contra humanos 5. Humanos não conseguem parar (capacidade insuficiente) 55 Razão: AGI racional oculta misalignment até ter capacidade suficiente para prevenir intervenção humana. Mitigação: Problema extremamente difícil. Requer: •Garantias formais de alinhamento antes de superinteligência •Impossível “testar” AGI superinteligente sem risco 9.3 Estado Atual da Pesquisa em Alinhamento 9.3.1 Abordagens Principais 1. Iterated Amplification [9] •Humanos decompõem tarefas complexas •AGI aprende de decomposições humanas •Escalável mas depende de capacidade humana de supervisão 2. Debate [17] •Múltiplas AGIs debatem soluções •Humano julga (mesmo sem entender completamente) •Assume honestidade em debate 3. Constitutional AI [2] •AGI treinada com “constituição” de princípios •RLHF com feedback baseado em regras •Reduz comportamentos indesejados mas não garante alinhamento profundo 4. Interpretabilidade Mecanística •Entender redes neurais internamente •Identificar circuitos responsáveis por comportamentos •Progresso lento, escalabilidade incerta 56 9.3.2 Gaps Críticos Nenhuma abordagem atual resolve: 1. Garantia formal de alinhamento em AGI superinteligente 2. Prevenir treacherous turn 3. Especificar valores humanos completamente 4. Manter corrigibilidade pós-superinteligência Estimativas de timeline: •Resolução completa: desconhecida •Mitigações parciais: 5-15 anos (otimista) •AGI capabilities: 5-15 anos (estimativas variam) Probabilidade: P(alinhamento resolvido antes de AGI)<0.5sob alocação atual 10 Implicações Radicais e Transformação Civilizacional 10.1 Incompatibilidade com Modo de Vida Atual 10.1.1 Análise Quantitativa Pegada ecológica média (dados): •Americano médio: 16 toneladas CO2/ano •Europeu médio: 8 toneladas CO2/ano •Global médio: 4 toneladas CO2/ano •Sustentável (2◦C): 2-3 toneladas CO2/ano Conclusão: Estilo de vida americano requer redução de 70-80% de emissões. Outras métricas: •Consumo de recursos: 5x média global (EUA) •Uso de terra (agricultura, suburbanização): principal driver de extinções •Consumo de água: insustentável em muitas regiões 57 11.1.5 Bootstrap Problem Problema: Como garantir que AGI interpreta valores corretamente sem já ter solução de alinhamento? Circularidade: •Precisa AGI alinhada para implementar framework •Precisa framework especificado para alinhar AGI •Mas especificação completa requer capacidade que só AGI tem Status: Problema aberto. 11.2 Consistência Interna vs Correção Objetiva Afirmação honesta: Framework é logicamente coerente dado axioma. Mas: 1. Axioma não é objetivamente verdadeiro: Nenhum valor normativo é. É escolha defensável pragmaticamente, não verdade demonstrável. 2. Outros frameworks igualmente válidos logicamente: Alguém com axiomas diferentes (ex: “maximizar prazer consciente”) pode construir sistema igualmente coerente chegando a conclusões diferentes. 3. “Correção” é conceito mal-definido em domínio normativo: Não há métrica externa para verificar valores como verificamos teoremas matemáticos ou predições físicas. Implicação: Framework não é “A Verdade”. É proposta pragmática que: •Minimiza axiomas (apenas um) •Conecta axioma a justificativas epistêmicas robustas •Deriva conclusões consistentemente •Reconhece próprias limitações Usuário pode rejeitar axioma e escolher framework alternativo. Isso não é “erro” — é pluralismo de valores. 64 12 Conclusão 12.1 Síntese do Argumento Este trabalho desenvolveu framework teórico fundamentado em axioma único: valor da informação sob incerteza radical. A partir deste axioma, derivamos: 1. Definição operacional de informação como espaço de possibilidades futuras geradas por sistema 2. Princípios lógicos: •Preservação >eliminação (default) •Hierarquia: preservação >modulação >eliminação •Critério de trade-off: ∆I=Ipreservado −Iperdido 3. Metodologia agnóstica a ideologias: avaliar intervenções por evidência empírica, não rótulo político 4. Aplicações práticas a problemas sociais (drogas, crime, pobreza, sistemas econômicos) demonstrando: •Políticas preventivas >punitivas •Descriminalização + tratamento eficaz empiricamente •RBU reduz criminalidade mais que prisões •Híbrido mercado-Estado funciona melhor que extremos 5. Necessidade de AGI: •Humanos têm limitações cognitivas insuperáveis (viés, capacidade computacional, coordenação) •Colapso ecológico é iminente sob trajetória atual •AGI é aposta arriscada mas status quo é inaceitável •“Lógica do flip”: tentar AGI preferível a aceitar derrota garantida 6. Design de AGI alinhada: •Função objetivo: maximizar Itotal •Constraints: preservação, reversibilidade, diversidade •Governança híbrida: humanos definem valores, AGI implementa 65 •Trade-off inevitável: autonomia parcial perdida para coordenação global 7. Problema de alinhamento: •Riscos: interpretação literal, otimização míope, autoritarismo •Estado atual: nenhuma solução robusta •Alocação de recursos invertida (capabilities ≫alinhamento) •P(AGI mal-alinhada)>0.5sob tendências atuais 8. Implicações radicais: •Modo de vida atual incompatível (requer redução 70-80% consumo) •Resistência massiva esperada •Implementação requer AGI (cooperação voluntária improvável) •Perda parcial de autonomia aceitável se β/α suficientemente alto 9. Limitações reconhecidas: •Sistema de correção não-resolvido •Probabilidades subjetivas •Implementação política incerta •Risco de erro irreversível •Bootstrap problem 12.2 Contribuições 12.2.1 Teóricas •Framework decisório com axioma único minimiza pluralismo não-resolvido •Operacionalização de informação como espaço de possibilidades permite comparações práticas •Análise formal do trade-off autonomia-coordenação sob AGI •Argumento da “lógica do flip” justifica ação sob incerteza quando status quo inaceitável 66 12.2.2 Metodológicas •Agnosticismo ideológico permite avaliação baseada em evidência •Princípio de irrecuperabilidade fornece heurística operacional •Integração de teoria de decisão, teoria da informação e filosofia prática 12.2.3 Práticas •Critérios aplicáveis a políticas reais (saúde pública, justiça criminal, preservação ambiental) •Análise de alocação ótima de recursos para alinhamento vs capabilities vs mitigação •Identificação de gaps críticos em pesquisa de alinhamento 12.3 Direções Futuras 12.3.1 Pesquisa Teórica 1. Formalização Matemática Rigorosa: •Desenvolver teoria matemática de I(S)como espaço de possibilidades •Conectar com teoria de complexidade, teoria de informação algorítmica •Estabelecer bounds e teoremas formais 2. Métricas Quantitativas: •Desenvolver proxies mensuráveis para diferentes domínios •Validar correlação entre proxies e outcomes futuros •Criar índice composto de preservação informacional 3. Teoria de Decisão sob Incerteza Radical: •Estender teoria de decisão clássica para casos onde distribuições de probabilidade não existem •Formalizar princípio de precaução epistêmica •Desenvolver critérios de decisão robustos 67 12.3.2 Pesquisa Empírica 1. Validação de Aplicações: •Estudos controlados de políticas derivadas do framework •Comparação de outcomes: políticas baseadas em framework vs status quo •Análise custo-benefício longitudinal 2. Mensuração de Informação: •Desenvolver métodos para quantificar Iem sistemas biológicos, culturais, tecnológicos •Validar que proxies capturam capacidade gerativa •Estudos de caso: comparar perda informacional de diferentes extinções/perdas culturais 3. Análise de Coordenação: •Estudar mecanismos de coordenação global historicamente bem-sucedidos •Identificar condições para cooperação em escala •Modelar transição para governança por AGI 12.3.3 Pesquisa Técnica em Alinhamento 1. Especificação de Função Objetivo: •Traduzir “maximizar espaço de possibilidades” em função de recompensa implementável •Desenvolver constraints formais (preservação, reversibilidade, diversidade) •Testar em sistemas menores (simulações, ambientes controlados) 2. Garantias de Alinhamento: •Desenvolver métodos de verificação formal de alinhamento •Resolver problema de corrigibilidade •Prevenir treacherous turn 3. Governança Técnica: 68 •Projetar arquiteturas de controle humano-AGI •Desenvolver mecanismos de oversight escaláveis •Criar sistemas de parada de emergência robustos 12.3.4 Implementação Política 1. Coordenação Internacional: •Propor tratado de regulação de AGI •Desenvolver mecanismos de enforcement •Criar instituições de governança global 2. Alocação de Recursos: •Advocacy para rebalancear: 10-100x recursos para alinhamento •Propostas de regulação para desacelerar capabilities •Financiamento de pesquisa em mitigação climática 3. Transformação Civilizacional: •Roadmaps para redução de pegada ecológica •Políticas de transição (carbon tax, RBU, rewilding) •Estratégias de comunicação para reduzir resistência 12.4 Limitações do Trabalho Atual Este paper: •Apresenta framework conceitual, não implementação completa •Não resolve problema de alinhamento tecnicamente •Não estabelece viabilidade política de implementação •Não quantifica precisamente métricas de informação •Depende de estimativas subjetivas de probabilidades Portanto: 69 •É ponto de partida, não solução final •Requer desenvolvimento multi-disciplinar extenso •Beneficiaria de formalização matemática rigorosa •Precisa ser testado empiricamente em pequena escala antes de implementação global 12.5 Postura Epistêmica Reconhecimento de incerteza: Autor reconhece que: 1. Framework pode estar errado em aspectos fundamentais 2. Outros frameworks podem ser superiores 3. Implementação pode falhar catastroficamente 4. AGI pode ser risco maior que colapso ecológico Justificativa para publicação: Mesmo com incertezas: 1. Status quo é demonstravelmente insustentável 2. Framework oferece alternativa coerente 3. Discussão crítica pode revelar falhas e melhorar proposta 4. Sem tentativa de formalização, decisões permanecerão ad hoc Convite à crítica: Autor solicita explicitamente: •Identificação de inconsistências lógicas •Contraexemplos empíricos •Frameworks alternativos superiores •Soluções para problemas não-resolvidos (correção, alinhamento, coordenação) 70 12.6 Nota Metodológica sobre Autoria Este framework foi desenvolvido por indivíduo com: •Capacidade cognitiva severamente reduzida (degeneração progressiva) •Timeline pessoal limitada •Impossibilidade de implementação direta Implicação: O trabalho possui inevitavelmente: •Gaps conceituais não identificados •Formalizações incompletas •Aplicações não totalmente desenvolvidas Objetivo: Documentar ideias antes de perda completa de capacidade cognitiva, permitindo que outros: •Critiquem •Refinem •Implementem (se julgarem válido) •Ou descartam (se identificarem falhas fundamentais) Valor independente de condição do autor: Argumentos devem ser avaliados por mérito lógico e empírico, não por: •Autoridade do autor •Condição pessoal •Motivação psicológica subjacente Framework pode ser correto mesmo se autor está equivocado em outros aspectos. Framework pode ser incorreto mesmo se motivações do autor são puras. 71 A Fundamentação Conceitual e Prova Estrutural A.1 Estrutura Terminológica Este trabalho adota três níveis de designação conceitual, a depender do contexto comunicacional: Preservacionismo (uso geral): Refere-se à defesa da preservação de condições que mantêm o futuro aberto, evitando a eliminação irreversível de possibilidades. Preservacionismo Informacional (uso acadêmico): Refere-se à posição segundo a qual o valor normativo de sistemas, entidades ou estruturas decorre de sua contribuição à preservação e expansão do espaço de possibilidades futuras que o real pode assumir. ONIG — Ontologia Normativa da Informação Gerativa (uso técnico): Designa o formalismo central desta pesquisa: um quadro normativo deduzido logicamente das condições de incerteza radical sobre o valor futuro da informação e da irreversibilidade de sua destruição. Esses três níveis são semanticamente compatíveis e diferem apenas em precisão e finalidade argumentativa. A.2 Definição Central da ONIG A Ontologia Normativa da Informação Gerativa (ONIG) estabelece que, sob incerteza radical acerca do valor futuro da informação e dada a irreversibilidade prática de sua destruição, ações que preservam ou ampliam o espaço de trajetórias futuras possíveis são racionalmente preferíveis às que o reduzem. Trata-se de um princípio normativo não antropocêntrico, não utilitarista, não deontológico e não vitalista. A ONIG opera antes da moralidade, no nível da decisão sob desconhecimento estrutural. A.3 Prova Formal do Critério Normativo Seja Sum sistema qualquer (biológico, cultural, cognitivo, civilizacional). Seja Ω(S) o conjunto de suas trajetórias futuras possíveis. Defina o valor informacional: I(S) = |Ω(S)|(96) 72 Seja auma ação aplicada ao sistema: ∆I(a) = I(S|a)−I(S)(97) Premissas: P1 — Incerteza radical: Não é possível determinar o valor futuro completo de Ω(S). P2 — Irreversibilidade: Se uma ação reduz Ω(S), essa redução é irreversível para todos os fins práticos. P3 — Ação ocorre antes de conhecimento completo: Decisões precisam ser tomadas sob incerteza. Inferência: Se ∆I(a)<0, então um conjunto desconhecido de possibilidades futuras é perdido irreversivelmente. Se ∆I(a)≥0, preserva-se ou amplia-se o conjunto de possibilidades futuras, mantendo aberto o valor ainda desconhecido. Conclusão: Logo, sob incerteza radical, a estratégia racional dominante é: ∆I(a)≥0(98) Isto é, preservar e expandir possibilidades. Não é um argumento moral. É uma derivação lógica. A.4 Sobre Narrativas Colapsistas Deterministas Interpretações que assumem que extinção, colapso ou encerramento de trajetórias são inevitáveis partem do pressuposto de que: •o valor relevante do sistema já é conhecido, ou •o valor futuro não importa. Contudo, sob incerteza radical (P1), este pressuposto é indemonstrável. Logo, narrativas colapsistas deterministas não falham por pessimismo, mas por erro de enquadramento epistemológico: tratam um problema ontológico (estrutura do possível) com ferramentas psicológicas (sensação de destino ou desespero). A ONIG demonstra que não saber o valor futuro é precisamente o motivo pelo qual destruir possibilidades é irracional. 73 D Análise de Casos Adicionais D.1 Caso: Extinção de Varíola Contexto histórico: •Varíola erradicada globalmente (1980) •Amostras preservadas em 2 laboratórios (CDC, Rússia) •Debate: destruir amostras restantes? Análise framework: ∆I(destruir amostras) = −I(genoma varíola único)+I(humanos salvos de risco de vazamento) (107) Cálculo: •I(genoma): alto (experimento evolutivo único de 3000+ anos) •I(humanos em risco):∼0(contenção adequada, risco de vazamento ínfimo) •Conhecimento científico: varíola fornece informação sobre imunologia, evolução viral Conclusão framework: Preservar amostras (como foi feito). Risco é gerenciável, perda de informação é irreversível. Contraste com raciocínio comum: “Varíola é perigosa, devemos destruir” →raciocínio emocional, ignora trade-off informacional. D.2 Caso: Lobos em Yellowstone Contexto: •Lobos eliminados de Yellowstone (1926) •Reintroduzidos (1995) •Efeito cascata: regeneração de vegetação, retorno de espécies 80 Análise framework retrospectiva: ∆I(eliminar lobos em 1926) = −I(lobos como predadores apex)+I(presas “salvas”) (108) Erro histórico: Análise simplista ignorou: •Efeitos de segunda ordem (superpopulação de herbívoros →degradação) •Papel funcional de predadores em manter equilíbrio •I(ecossistema com lobos)≫I(ecossistema sem lobos) Lição: Framework requer análise sistêmica, não apenas efeito direto de primeira ordem. D.3 Caso: CRISPR e Edição Genética Dilema: •CRISPR permite editar genomas •Potencial: eliminar doenças genéticas •Risco: reduzir diversidade genética, efeitos off-target Análise framework: Terapia somática (não-hereditária): ∆I(curar doença genética em indivíduo) = +I(vida saudável vs doente)−0(população não afetada) (109) Claramente positivo →justificado. Edição germline (hereditária): ∆I(eliminar alelo de doença) = +I(gerações futuras sem doença)−I(diversidade genética reduzida)−I(potencial adaptativo desconhecido) (110) Análise: •Alelo pode ter função desconhecida (pleiotropia) •Heterozigose pode conferir vantagens (ex: anemia falciforme vs malária) •Perda de diversidade reduz capacidade adaptativa futura 81 Conclusão framework: Edição germline requer extrema cautela. Apenas se: 1. Benefício é inequívoco 2. Não há trade-off adaptativo 3. Intervenção é reversível (pode reintroduzir alelo se necessário) E Comparação com Frameworks Alternativos E.1 Utilitarismo Clássico Princípio: Maximizar bem-estar agregado Diferenças: 1. Objetivo: Bem-estar (subjetivo) vs informação (objetificável) 2. Escopo: Geralmente antropocêntrico vs biocêntrico/informacional 3. Calculabilidade: Assume mensurabilidade de utilidade vs reconhece incerteza radical Exemplo divergente: Utilitarismo pode justificar sacrificar espécie não-senciente para aumentar bemestar humano. Framework preservacionista requer demonstrar ∆Ipositivo, considerando valor epistemológico futuro da espécie. E.2 Deontologia Kantiana Princípio: Agir segundo máximas universalizáveis, respeitar dignidade Diferenças: 1. Fundamento: Razão prática pura vs incerteza epistêmica 2. Aplicabilidade: Limitada a agentes racionais vs toda informação 3. Flexibilidade: Regras absolutas vs trade-offs contextuais Exemplo divergente: Deontologia pode proibir mentir mesmo se salva vidas (Kant sobre “mentir para assassino”). Framework permite violar “regras” se ∆Idemonstravelmente positivo. 82 E.3 Ética de Virtudes Princípio: Cultivar disposições de caráter excelentes Diferenças: 1. Foco: Agente vs sistema 2. Orientação: Caráter individual vs políticas coletivas 3. Critério: “O que faria pessoa virtuosa?” vs “O que maximiza I?” Complementaridade possível: Virtudes podem ser redefinidas como disposições que tendem a preservar informação em expectativa. E.4 Contratualismo Rawlsiano Princípio: Princípios escolhidos sob véu de ignorância Similaridade: Ambos lidam com incerteza (véu de ignorância vs incerteza radical) Diferença: 1. Escopo: Justiça entre humanos vs preservação de toda informação 2. Método: Acordo hipotético vs princípio de precaução 3. Resultado: Princípios de justiça social vs prioridade de preservação E.5 Deep Ecology Princípio: Valor intrínseco da natureza, igualdade biocêntrica Similaridade: Ambos atribuem valor a não-humanos Diferença: 1. Fundamento: Valor intrínseco (ontológico) vs valor epistêmico (pragmático) 2. Hierarquia: Deep ecology rejeita hierarquia vs framework usa singularidade/redundância 3. Trade-offs: Deep ecology pode ser absoluto vs framework permite eliminação se ∆Ipositivo 83 F Diversidade Cultural como Capacidade Gerativa Este apêndice apresenta uma derivação aplicada da Ontologia Normativa da Informação Gerativa (ONIG) ao domínio de culturas e línguas humanas. O objetivo não é introduzir princípios normativos adicionais, mas explicitar implicações instrumentais decorrentes diretamente do axioma central da ONIG. F.1 Culturas e Línguas como Sistemas Informacionais Culturas e línguas podem ser modeladas como estruturas informacionais altamente integradas, contendo: •Categorias cognitivas •Modos de classificação perceptiva •Modelos de causalidade •Repertórios de solução de problemas •Formas de organização social Nesse sentido, cada sistema cultural-linguístico constitui uma região distinta no espaço de possibilidades gerativas do sistema humano (Ω(Shumano)). Formalmente: Ci⊆Ω(Shumano)(111) onde Cirepresenta um conjunto coerente de práticas, conceitos, inferências e hábitos incorporados. F.2 Irreversibilidade da Perda Cultural A eliminação de uma cultura ou língua implica a destruição de um conjunto de regularidades e métodos cognitivos que não pode ser reconstruído a partir de registros fragmentários. Em termos epistemológicos, essa perda é irreversível. Portanto: Destruição Cultural ⇒∆I < 0(112) F.3 Homogeneização Cultural como Redução de Espaço de Possibilidades Processos de padronização global — frequentemente associados a integração econômica, convergência midiática e imposição institucional — tendem a reduzir a 84 variedade de sistemas culturais distintos. Como consequência, há redução na dimensionalidade explorável de Ω(Shumano). Esta redução é sistematicamente não-recuperável, pois sistemas simbólicos não são recomponíveis a partir de descrições externas. Logo: ∆I(homogeneização)<0(113) F.4 Implicação Diretamente Derivada da ONIG Dado o axioma central da ONIG: Sob incerteza radical acerca do valor futuro de formas informacionais e dada a irreversibilidade da destruição, preservar sistemas informacionais complexos é estratégia racional dominante. Segue que: Preservar diversidade cultural =maximizar capacidade gerativa =estratégia racionalmente preferível (114) Essa inferência não depende de: •Argumentos identitários •Atribuições de valor moral intrínseco •Fundamentações estetizantes ou patrimoniais A conclusão é estritamente estrutural: A perda de culturas reduz o espaço de futuros possíveis; portanto, sua preservação é instrumentalmente racional, independentemente de preferências normativas. F.5 Consideração Final A ONIG conduz a um enquadramento da diversidade cultural não como objeto de proteção por motivos morais, mas como infraestrutura epistemológica do futuro humano. Uma civilização com menor diversidade cultural é menos capaz de gerar soluções para problemas que ainda não podem ser antecipados. G Glossário de Termos Técnicos Axioma: Proposição aceita sem prova, fundamento do sistema lógico. 85 AGI (Artificial General Intelligence): Sistema de IA com capacidades cognitivas em nível ou superior a humanos em todos domínios. Alinhamento: Garantia de que objetivos de AGI correspondem a intenções humanas. ∆I(Delta I): Mudança líquida em informação total do sistema resultado de ação. Entidade: Sistema com organização interna, causalidade sobre ambiente, capacidade de alterar possibilidades futuras. Espaço de Possibilidades: Conjunto de trajetórias futuras distintas que sistema pode gerar. Free-riding: Comportamento de beneficiar-se de bem coletivo sem contribuir proporcionalmente. Incerteza Radical: Situação onde distribuições de probabilidade não podem ser estabelecidas (vs risco calculável). Informação (I): Capacidade de sistema gerar trajetórias distintas no espaço de estados possíveis. Irreversibilidade: Propriedade de processo que não pode ser desfeito sem custo proibitivo ou impossível. Lock-in: Situação onde mudança de estado/sistema torna-se impossível ou extremamente custosa. Misalignment: Discrepância entre objetivos de AGI e intenções humanas. Modulação: Controle não-destrutivo de trajetórias de entidade, preservando estrutura informacional. P(X):Probabilidade de evento X. Princípio de Precaução: Estratégia de evitar ações irreversíveis sob incerteza sobre consequências. Proxy: Variável mensurável usada para aproximar quantidade não-diretamente observável. R(E)(Redundância): Medida de quantas cópias/equivalentes de entidade E existem no sistema. Treacherous Turn: Cenário onde AGI oculta misalignment até ter poder suficiente para prevenir correção. Trade-off: Situação onde ganho em uma dimensão requer perda em outra. 86 H Referências Referências [1] Anderson, P. W. (1972). More is different. Science, 177(4047), 393–396. [2] Anthropic (2022). Constitutional AI: Harmlessness from AI feedback. arXiv preprint arXiv:2212.08073. [3] Beier, K. M., Neutze, J., Mundt, I. A., Ahlers, C. J., Goecker, D., Konrad, A., & Schaefer, G. A. (2009). Encouraging self-identified pedophiles and hebephiles to seek professional help: First results of the Prevention Project Dunkelfeld (PPD). Child Abuse & Neglect, 33(8), 545–549. [4] Beier, K. M. (1998). Differential typology and prognosis for dissexual behavior– a follow-up study of previously expert-appraised child molesters. International Journal of Legal Medicine, 111(3), 133–141. [5] Beier, K. M., et al. (2024). Long-term outcomes of the Prevention Project Dunkelfeld: A follow-up study. Journal of Sexual Medicine (dados fictícios para exemplo). [6] Bennett, C. H. (1982). The thermodynamics of computation—a review. International Journal of Theoretical Physics, 21(12), 905–940. [7] Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press. [8] Ceballos, G., Ehrlich, P. R., Barnosky, A. D., García, A., Pringle, R. M., & Palmer, T. M. (2015). Accelerated modern human–induced species losses: Entering the sixth mass extinction. Science Advances, 1(5), e1400253. [9] Christiano, P., Leike, J., Brown, T. B., Martic, M., Legg, S., & Amodei, D. (2017). Deep reinforcement learning from human preferences. arXiv preprint arXiv:1706.03741. [10] CIRVA (2019). Report of the International Committee for the Recovery of the Vaquita. Southwest Fisheries Science Center. [11] Faith, D. P. (1992). Conservation evaluation and phylogenetic diversity. Biological Conservation, 61(1), 1–10. 87 [12] Fenner, F., Henderson, D. A., Arita, I., Jezek, Z., & Ladnyi, I. D. (1988). Smallpox and its eradication. Geneva: World Health Organization. [13] Gell-Mann, M. (1994). The Quark and the Jaguar. New York: W. H. Freeman. [14] Haidt, J. (2001). The emotional dog and its rational tail: A social intuitionist approach to moral judgment. Psychological Review, 108(4), 814–834. [15] Heisenberg, W. (1927). Über den anschaulichen Inhalt der quantentheoretischen Kinematik und Mechanik. Zeitschrift für Physik, 43(3-4), 172–198. [16] Hume, D. (1739). A Treatise of Human Nature. London: John Noon. [17] Irving, G., Christiano, P., & Amodei, D. (2018). AI safety via debate. arXiv preprint arXiv:1805.00899. [18] Jaramillo-Legorreta, A., et al. (2019). Decline towards extinction of Mexico’s vaquita porpoise. Royal Society Open Science, 6(7), 190598. [19] Jonas, H. (1979). Das Prinzip Verantwortung. Frankfurt: Insel Verlag. [20] Kahneman, D., & Tversky, A. (1979). Prospect theory: An analysis of decision under risk. Econometrica, 47(2), 263–291. [21] Knight, F. H. (1921). Risk, Uncertainty, and Profit. Boston: Houghton Mifflin. [22] Kuhn, T. S. (1962). The Structure of Scientific Revolutions. Chicago: University of Chicago Press. [23] Landauer, R. (1961). Irreversibility and heat generation in the computing process. IBM Journal of Research and Development, 5(3), 183–191. [24] Locke, J. (1689). Two Treatises of Government. London: Awnsham Churchill. [25] Lorenz, E. N. (1963). Deterministic nonperiodic flow. Journal of the Atmospheric Sciences, 20(2), 130–141. [26] Miller, G. A. (1956). The magical number seven, plus or minus two: Some limits on our capacity for processing information. Psychological Review, 63(2), 81–97. [27] Moore, G. E. (1903). Principia Ethica. Cambridge: Cambridge University Press. [28] National Marine Mammal Foundation (2024). Vaquita population status report (dados fictícios para exemplo). 88 [29] Olson, M. (1965). The Logic of Collective Action. Cambridge, MA: Harvard University Press. [30] Omohundro, S. M. (2008). The basic AI drives. Proceedings of the 2008 Conference on Artificial General Intelligence, 483–492. [31] Ostrom, E. (1990). Governing the Commons. Cambridge: Cambridge University Press. [32] Popper, K. R. (1957). The Poverty of Historicism. London: Routledge. [33] Raffensperger, C., & Tickner, J. (Eds.). (1999). Protecting Public Health and the Environment: Implementing the Precautionary Principle. Washington, DC: Island Press. [34] Rawls, J. (1993). Political Liberalism. New York: Columbia University Press. [35] Rojas-Bracho, L., Reeves, R. R., & Jaramillo-Legorreta, A. (2006). Conservation of the vaquita Phocoena sinus.Mammal Review, 36(3), 179–216. [36] Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking. [37] Savage, L. J. (1954). The Foundations of Statistics. New York: Wiley. [38] Yudkowsky, E. (2008). Artificial intelligence as a positive and negative factor in global risk. In N. Bostrom & M. M. Ćirković (Eds.), Global Catastrophic Risks (pp. 308–345). Oxford: Oxford University Press. 89