O desenvolvimento da inteligência artificial
- AlphaGo - O Filme - DeepMind - Um documentário que explora o que a inteligência artificial pode revelar sobre o jogo Go de 3.000 anos e o que isso pode nos ensinar sobre o futuro potencial da inteligência artificial. (Vídeo - 1 hora e 30 minutos.)
- A Revolução da Inteligência Artificial: Parte 1 - Uma divertida e interessante exploração da inteligência artificial pelo popular blogueiro Tim Urban. (45 min.)
- Linhas do tempo de AI: Onde os argumentos e os especialistas se posicionam (13 mins.) -
Outros recursos sobre o alinhamento da inteligência artificial
- Por que o alinhamento de IA pode ser difícil (18 mins)
- Currículo dos Fundamentos de Segurança da AGI
- Meus pontos cruciais pessoais para trabalhar em segurança de IA (65 min.)
- Recursos que eu recomendo a pesquisadores de IA sobre Segurança de IA (13 min)
- Professor Stuart Russell sobre as falhas que tornam a arquitetura de IA de hoje insegura e uma nova abordagem que pode corrigi-la (Podcast - 2 horas e 15 minutos.)
- Alguns antecedentes sobre nossas opiniões sobre inteligência artificial avançada - Open Philanthropy Project - Uma explicação do por que existe uma possibilidade séria de que o progresso na inteligência artificial possa precipitar uma transição comparável às revoluções Neolítica e Industrial. (1 hora)
- Como podemos alinhar a IA transformativa se for desenvolvida em breve? (53 mins.)
- O Precipício - Capítulo 5 (páginas 138-152) - Inteligência Artificial Desalinhada (25 min.)
- Com o que o fracasso se pareceria (12 min.) - Duas histórias específicas sobre como poderia ser uma falha de alinhamento de IA muito ruim para toda a sociedade, que diferem consideravelmente da clássica história de “explosão de inteligência”
- Segurança AGI desde os primeiros princípios (1 hora e 15 minutos) - um pesquisador de IA assume os fatores específicos para o problema de alinhamento da IA geral
- Compatível com humanos: inteligência artificial e o problema do controle (Livro)
- O problema do alinhamento: aprendizado de máquina e valores humanos (Livro)
- Revisão de carreira de Segurança de IA (10 mins.)
Governança para inteligência artificial
- A nova equipe de pesquisa de 30 pessoas em DC investiga como as tecnologias emergentes podem afetar a segurança nacional - 80.000 horas - Como a segurança internacional pode ser alterada se o impacto do aprendizado de máquina for semelhante em escopo ao da eletricidade? (Podcast - 2 horas)
- Roleta Tecnológica: Gerenciando a Perda de Controle Enquanto Muitos Militares Perseguem a Superioridade Tecnológica - Center for a New American Security - Um argumento de como os avanços na tecnologia militar (incluindo, entre outros, IA) podem impedir a tomada de decisões relevantes e criar riscos, exigindo assim maior atenção das organizações de segurança nacional. (60 min.)
Trabalho técnico de alinhamento de IA
- O Cenário de Alinhamento de IA (Vídeo - 30 min.)
- Pacote inicial de segurança de IA (7 min.)
- Como seguir uma carreira em alinhamento técnico de IA (59 min.)
- Currículo de Alinhamento Técnico (leituras para um curso de 7 semanas)
- O Fórum de Alinhamento, especialmente suas sequências principais
Críticas de preocupações sobre o risco de IA
- Quanta certeza temos sobre essas coisas de IA? (26 min.)
- Um conto de 2,75 teses de ortogonalidade (20 min.)
- Counterarguments to the basic AI risk case (41 mins.)
- Meu desabafo de ceticismo altamente pessoal sobre o risco existencial de inteligência artificial (17 mins.)
- Como saber se a IA está prestes a destruir a civilização (resumo, 2 min.)
- O Messias da IA (e o primeiro comentário) (5 min.)
- Quão boa é a humanidade em coordenação? (4 min.)
Publicado originalmente em 15 de julho de 2022 aqui.
Tradução: Bruna Bernardes
Revisão: Fernando Moreno