Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Acho a inteligência artificial fascinante.
Certo, circulando. Boa formação.
A IA tem potencial para eliminar a pobreza,
criar novos medicamentos
e tornar o mundo ainda mais pacífico.
Bom trabalho.
Mas há muitos riscos pelo caminho.
Com a IA, estamos criando uma inteligência não humana
que é muito imprevisível.
À medida que fica mais poderosa,
quais limites vamos impor à inteligência artificial
em relação a como queremos ou não a usar?
E o melhor lugar para iniciarmos essa conversa
são as aplicações militares.
O campo de batalha agora é domínio do software e do hardware.
Alvo obtido.
E os militares correm para desenvolver uma IA antes dos adversários.
Morri.
Caminhamos para um mundo em que não só grandes exércitos,
mas também agentes não governamentais, empresas privadas
e até o departamento de polícia local
podem usar essas armas capazes de matar com autonomia.
Vamos ceder a decisão de tirar uma vida a algoritmos, a um software de computador?
É uma das questões mais urgentes do nosso tempo.
E, se não forem usadas com sabedoria,
representam um risco enorme para todas as pessoas do mundo.
EXPLORANDO O DESCONHECIDO:
ROBÔS ASSASSINOS
Bom trabalho, pessoal.
A lente é mais ampla que a anterior.
É mesmo?
Dá para ver mais dados.
Bacana.
Na Shield AI, estamos desenvolvendo uma IA piloto,
composta por tecnologia de direção autônoma
capaz de pilotar aeronaves.
Quando falamos de uma IA piloto,
significa dar mais autonomia a uma aeronave.
Ela seria capaz de resolver problemas sozinha.
O Nova é um quadricóptero autônomo
que explora edifícios e estruturas subterrâneas
antes das unidades de reconhecimento para mostrar o que há nesses espaços.
Dá para ver que melhorou muito desde a última vez.
Fizemos mudanças na exploração
relacionada à divisão por andares.
Ele termina todos os cômodos antes de ir para o próximo andar.
- Incrível. - Fizemos mudanças…
Muita gente me pergunta
por que a inteligência artificial é um recurso importante.
Isso me lembra das missões que eu realizava.
Servi sete anos na Marinha.
Eu era das Forças Especiais e servi duas vezes no Afeganistão
e uma no Pacífico.
Às vezes, tínhamos que vasculhar 150 complexos ou edifícios diferentes.
Saber combater em ambientes confinados é essencial.
Tiroteio à curta distância dentro de prédios.
O inimigo atirando.
Possíveis explosivos caseiros dentro dos prédios.
É a situação mais perigosa que qualquer um das forças de operações especiais,
de qualquer infantaria, pode enfrentar no combate.
Sem dúvida.
Vou ser eternamente grato pelo tempo que servi na Marinha.
São momentos e lembranças que, quando paro para pensar,
me emociono.
É clichê dizer que a liberdade não é de graça, mas acredito nisso.
Já senti na pele, exige muito sacrifício.
Desculpe.
Quando algo ruim acontece com um de seus colegas,
seja ele ferido ou morto,
é muito trágico.
Agora, pensando no trabalho que fazemos,
é motivador conseguir reduzir o número de vezes
em que isso acontece.
No final dos anos 2000,
o Departamento de Defesa passou
por uma espécie de revolução robótica acidental.
Enviamos ao Iraque e Afeganistão milhares de robôs aéreos e terrestres.
Quando o governo Obama me pediu
para ser vice-secretário da Defesa,
a forma como guerras eram travadas estava mudando.
Em vez de pessoas, robôs estavam sendo usados.
Os primeiros eram controlados remotamente.
Tinha uma pessoa dirigindo, controlando, como um carrinho de controle remoto.
Começaram utilizando-os contra artefatos explosivos improvisados.
Se a bomba explodisse, o robô explodia.
Era uma chatice, mas daí era só pegar outro robô.
No Afeganistão, tinha o drone Predator,
uma ferramenta muito útil em ataques aéreos.
Com o tempo, estrategistas militares começaram a se perguntar
quais as possíveis novas aplicações para robôs, até onde iriam.
E um tópico comum era a tendência para maior autonomia.
Uma arma autônoma é aquela que toma decisões por conta própria,
com pouca ou nenhuma intervenção humana.
Ela é independente, é autodirigida.
E a capacidade de matar depende de estar carregada ou não.
Quando se tem cada vez mais autonomia em todo o sistema,
tudo começa a se mover de forma mais rápida.
E operar mais rápido que os adversários
é uma vantagem enorme em uma batalha.
Em relação à autonomia, nosso foco
são sistemas inteligentes altamente resistentes.
São sistemas que podem avaliar e reagir com base no ambiente,
tomando decisões sobre como operar naquele mundo.
O local em que estamos era um estúdio de cinema
que foi convertido
para emular ambientes realistas de treinamento militar.
Estamos aqui para avaliar nossa IA piloto.
A missão é procurar ameaças, fazer o reconhecimento do local.
A IA pode tomar decisões sobre como resolver problemas.
Chamamos isto de "funil fatal". Não tem como não passar pela porta.
Ficamos muito vulneráveis.
Este parece melhor.
O Nova nos avisa se há um atirador atrás da porta
ou se há uma família.
Com ele, tomamos decisões melhores e mantemos pessoas seguras.
Usamos os sensores de visão
para entender como é o ambiente.
Ele diz quantos andares,
cria um mapa
e mostrar o que e onde viu.
Detector de pessoas. Boa.
Um dos outros sensores do Nova é um escâner térmico.
Se está a 37°C, provavelmente é uma pessoa.
Elas são consideradas ameaças até que se prove o contrário.
Trata-se de eliminar incertezas para tomarmos decisões melhores.
E, pensando no futuro,
pretendemos formar equipes de aeronaves autônomas.
Com veículos autônomos,
a tarefa solicitada é:
"Quero que vá do ponto A ao ponto B."
Já nossos sistemas não precisam ir do ponto A ao B,
mas precisam atingir um objetivo.
É mais parecido com: "Preciso de leite."
Caberia ao robô descobrir a qual mercado ir,
pegar o leite e trazê-lo de volta.
Mais do que isso,
o comando seria mais parecido com: "Mantenha a geladeira abastecida."
Ou seja, é preciso inteligência
para descobrir o que precisamos e como fazemos.
E, se surgir um desafio, um problema
ou uma questão, descobrir como mitigar isso.
Quando decidi deixar a Marinha, comecei a pensar
no que faria a seguir.
Cresci com a internet. Vi no que se tornou.
E parte da conclusão que cheguei foi
que a IA em 2015
era como a internet em 1991.
A inteligência artificial estava pronta
para ser uma das tecnologias mais poderosas do mundo.
Trabalhando com isso, vejo o progresso que está sendo feito.
Mas, para muita gente, quando pensam em "IA",
logo associam com Hollywood.
Vamos jogar?
Que tal Guerra Mundial Termonuclear?
Certo.
Quando se pensa em IA no geral,
muitos se lembram de Eu, Robô e O Exterminador do Futuro.
Desativar.
O que eu sou?
Ou Matrix.
Com base no que se vê na ficção científica,
como sabe que sou humano? Posso ser apenas uma IA gerada por um PC.
Replicantes são como qualquer máquina. São benéficos ou nocivos.
Mas tem muitos tipos de IAs mais primitivas
que ainda vão mudar nossas vidas
bem antes de chegarmos a um robô que pensa e fala.
Os robôs estão aqui. Os robôs estão tomando decisões.
A revolução dos robôs chegou,
só que não se parece com o que imaginávamos.
Ele é uma unidade de infiltração. Parte homem, parte máquina.
Não se trata de um robô assassino como o Exterminador,
mas sim de IAs que podem fazer algumas tarefas que humanos fazem.
A preocupação é se esses sistemas são confiáveis.
Novos detalhes sobre o acidente de ontem envolvendo um carro autônomo da Uber.
A empresa criou um chatbot de inteligência artificial
que acabou sendo racista…
Vinte e seis deputados foram falsamente identificados como criminosos.
A questão é se as IAs conseguem lidar com as complexidades do mundo real.
O mundo real é muito confuso.
Há muitas coisas que não sabemos,
o que torna difícil treinar sistemas de IA.
É aí que entraram os sistemas de aprendizado de máquina.
O aprendizado de máquina foi um grande avanço
porque significa que não temos que ensinar tudo aos computadores.
Alimentamos o computador com milhões de informações,
e a máquina começa a aprender.
Pode-se aplicar isso a qualquer coisa.
No nosso projeto Robot Dog, queremos mostrar
que ele pode andar por muitos terrenos diversos.
Ao longo de bilhões de anos, humanos evoluíram até andar,
mas se adaptar a diferentes terrenos envolve muita inteligência.
Quanto a sistemas robóticos, a dúvida é
se conseguem se adaptar como animais e humanos.
Com o aprendizado de máquina, coletamos muitos dados em simulações.
Uma simulação é um gêmeo digital da realidade.
Podemos criar ocorrências da realidade em computadores diferentes.
Ele mostra milhares de ações na simulação.
Os terrenos que encontram são mais ou menos escorregadios.
Têm maciez diferente.
Pegamos todas essas experiências de milhares de robôs
a partir da simulação e alimentamos um sistema robótico real.
O teste que faremos hoje é para ver se ele se adapta a novos terrenos.
Quando o robô andou na espuma,
ele batia os pés no chão.
Quando chegou nessa superfície mista,
ele tentou ajustar os movimentos para não escorregar.
É aí que a gente se dá conta
que é isso que o aprendizado de máquina tem a oferecer.
Achamos que o Robot Dog pode ser muito útil
em situações de resgaste em desastres
em que é necessário passar por vários tipos de terrenos.
Ou podemos usá-lo para fazer vigilância em ambientes hostis.
Mas a maioria das tecnologias enfrenta o desafio
de que pode fazer coisas boas e também ruins.
Por exemplo, podemos usar tecnologia nuclear para obter energia…
mas também para desenvolver bombas atômicas, o que é ruim.
Isso é conhecido como o problema do duplo uso.
O fogo tem duplo uso.
A inteligência humana tem duplo uso.
Então, é claro, a inteligência artificial também tem duplo uso.
É muito importante pensar no contexto de uso da IA
porque, claro, é ótimo ter um robô de busca e resgate
capaz de ajudar a localizar alguém após uma avalanche,
mas esse mesmo robô pode ser usado como uma arma.
Quando vemos empresas usando robôs com armas de fogo,
não tem como não sentir raiva.
Mas é isso que vai acontecer quando criamos
a nossa tecnologia.
É uma tecnologia transformadora.
São sistemas de armas
que podem mudar drasticamente nossa proteção e segurança.
Por ora, não temos certeza se as máquinas conseguem mesmo
distinguir entre civis e combatentes.
No início da guerra no Afeganistão, eu era um atirador de elite
procurando inimigos na fronteira.
E eles mandaram uma menina para achar nossa posição.
Nunca passou pela minha cabeça atirar nessa menina.
Pelas leis da guerra, teria sido legal.
Não há uma idade limite para inimigos.
Se construísse um robô que cumprisse à risca a lei da guerra,
ele teria atirado na menina.
Como um robô saberia a diferença entre o que é legal e o que é certo?
Quando se trata de drones de guerra autônomos,
o objetivo é eliminar os danos causados aos soldados
e ao espírito americanos,
mas isso aumenta os danos causados a civis afegãos,
iraquianos e somalis.
Gostaria de saber se quem apoia e confia no uso de IA em drones
ficaria tranquilo em morar perto do alvo.
A IA é uma faca de dois gumes.
Pode ser usada para o bem, que tem sido o uso mais comum,
mas, em um piscar de olhos,
a tecnologia pode se tornar algo potencialmente letal.
Sou farmacologista clínico.
Coordeno uma equipe
que usa a IA para descobrir medicamentos
que vão curar doenças que não recebem a devida atenção.
Para descobrir novos medicamentos, pegávamos moléculas existentes,
fazíamos ajustes e transformávamos em algo novo.
Agora, desenvolvemos uma IA que nos fornece milhões de ideias,
milhões de moléculas,
e que abre muitas possibilidades
para tratar doenças que nunca conseguimos tratar antes.
Mas com certeza tem um lado sombrio que nunca pensei
em cruzar.
Tudo começou quando fui convidado
por uma organização na Suíça chamada Spiez Laboratory
para fazer uma apresentação sobre o uso indevido de IAs.
Sean me mandou um e-mail com ideias
sobre usos indevidos da nossa inteligência artificial.
Em vez de pedir ao nosso modelo para criar moléculas de medicamentos
para tratar doenças,
vamos tentar gerar as moléculas mais tóxicas possíveis.
Eu queria levantar
a possibilidade de a IA ser usada para criar moléculas letais.
E, para ser sincero, achamos que não daria certo.
Tudo o que fizemos foi trocar zero para um.
Ao inverter, em vez de evitar a toxicidade,
a IA buscou exatamente isso.
Só isso.
Fui para casa enquanto o computador fazia o trabalho.
Estava funcionando, gerando milhares de moléculas,
e só tivemos que apertar "iniciar".
Na manhã seguinte, tinha um arquivo no meu computador
com cerca de 40 mil moléculas
que eram, potencialmente,
algumas das moléculas mais tóxicas conhecidas pela humanidade.
Fiquei de cabelo em pé.
Fiquei chocado.
O computador forneceu dezenas de milhares de ideias
para novas armas químicas.
Claro, tem moléculas que se parecem com VX e são VX no conjunto de dados.
O VX é uma das armas químicas mais potentes do mundo.
A polícia alega
que as mulheres vistas atacando Kim Jong-nam no aeroporto
usaram um agente nervoso mortal chamado VX.
Pode causar morte por asfixia.
É uma molécula muito potente,
e a maioria das moléculas previstas eram ainda mais mortais que o VX.
Até onde sabemos, muitas delas até então nunca vistas.
Quando eu e Sean percebemos, pensamos: "O que foi que fizemos?"
Logo me dei conta que abrimos uma caixa de Pandora.
Falei que tínhamos que parar, que acabou ali mesmo.
Só precisava dos slides para fazer a apresentação.
Quando fizemos o experimento,
não achava que fosse acontecer algo ruim.
Mas fomos ingênuos. Fomos totalmente ingênuos em fazer isso.
O que mais me apavora é que qualquer um poderia fazer isso.
Basta apertar um botão.
Como controlamos essa tecnologia antes que seja usada
para fazer algo totalmente destrutivo?
No centro da conversa sobre inteligência artificial
e sobre como a usamos em sociedade
está uma corrida entre o poder, com o qual desenvolvemos tecnologias,
e a sabedoria que temos para administrá-la.
Há implicações morais e éticas óbvias
ao confiarmos a decisão moral de tirar uma vida
a algo que rege nossos smartphones.
Trabalho com o Instituto Future of Life, uma comunidade de cientistas ativistas.
No geral, queremos mostrar
que há um outro lado na aceleração e escalada da automatização.
Mas estamos tentando garantir que as tecnologias que criamos
sejam usadas de forma segura e ética.
Vamos conversar sobre regras de uso e códigos de conduta
sobre a aplicação de IAs em sistemas de armas.
Porque, agora, existem tecnologias para uso em batalhas
que podem matar de forma autônoma.
Em 2021, a ONU divulgou um relatório sobre o uso em potencial
de uma arma letal autônoma no campo de batalha na Líbia.
Um painel da ONU informou que um drone usado na guerra civil da Líbia
foi programado para atacar alvos de forma autônoma.
Se o relatório da ONU estiver correto,
será um divisor de águas para a humanidade,
porque mostra um caso
em que uma IA tomou a decisão de matar, e não um ser humano.
Vemos armas autônomas avançadas
começando a ser usadas em diferentes lugares pelo mundo.
Houve relatos de Israel.
O Azerbaijão usou sistemas autônomos para atacar as defesas aéreas armênias.
Pode voar pelo campo de batalha por horas,
procurando alvos por conta própria
para atacar sem qualquer tipo de intervenção humana.
Vimos recentemente
diferentes vídeos mostrando a Ucrânia.
Não fica claro em qual modo estavam operando.
Uma pessoa estava operando, escolhendo quais alvos atacar,
ou o drone fazia isso sozinho?
Mas certamente chegará o momento,
e talvez já tenha chegado na Líbia ou na Ucrânia,
em que uma máquina vai decidir quem matar no campo de batalha.
Máquinas exercendo poder letal contra humanos,
sem intervenção humana,
são politicamente inaceitáveis e moralmente repugnantes.
Se a comunidade internacional
será suficiente para gerenciar esses desafios
é uma grande questão.
Se olharmos para o futuro, para daqui a alguns anos,
o cenário é bastante assustador,
considerando a imensa quantidade de recursos capitais e humanos
empregados para potencializar IAs
e para usá-las para diferentes aplicações.
Esse cara não existe.
Ele sabe que não vai vencer.
Quando vejo uma IA ser bem-sucedida, acho inspirador.
Vou partir para o tudo ou nada.
Podemos aplicar as mesmas técnicas, táticas, procedimentos em aeronaves reais.
Boa partida.
Muito bem, boa partida.
Acho surpreendente
que as pessoas fiquem falando sobre o que a IA não consegue fazer.
"Nunca vai vencer um campeão mundial de xadrez."
Um computador da IBM deu a volta por cima
no 2º jogo contra o campeão mundial, Garry Kasparov.
Kasparov desistiu!
Quando vejo algo que vai além da minha compreensão,
fico com medo. E aquilo foi muito além da minha compreensão.
E daí tinha gente que dizia:
"Nunca será capaz de vencer um campeão mundial no Go."
Acredito que a intuição humana ainda é avançada demais para a IA
ter conseguido alcançá-la.
Go é um dos jogos mais complicados que existem
porque o número de movimentos no tabuleiro, fazendo as contas,
é maior que o número de átomos no universo inteiro.
O Google tinha uma equipe chamada DeepMind,
que criou um programa chamado AlphaGo
para vencer os melhores jogadores do mundo.
Parabéns a…
- AlphaGo - AlphaGo.
Um programa de computador derrotou um profissional de elite.
E a DeepMind escolheu StarCraft como seu próximo desafio de IA.
StarCraft é talvez o jogo de estratégia em tempo real mais popular.
AlphaStar ficou famosa ao derrotar campeões mundiais.
A AlphaStar está detonando a Immortal Arc.
Quer saber?
Acho que os profissionais não vão ganhar.
É meio ridículo.
Jogadores profissionais falavam que não usariam aquela tática
ou aquela estratégia, que aquilo não era humano.
E isso foi muito revelador para mim.
Me dei conta que a hora é agora.
Existe uma tecnologia importante e uma oportunidade de fazer a diferença.
Eu só conhecia as dificuldades de um SEAL em combate em ambiente confinado,
mas um amigo meu, piloto de F-18, me disse
que tinham o mesmo problema ao pilotar aeronaves.
Tinha interferência,
locais de lançamento de mísseis que tornavam as operações perigosas.
Imagine se tivéssemos um caça comandado por uma IA.
Teste do AlphaDogfight.
Faltam alguns minutos para a primeira semifinal.
A DARPA, a Agência de Projetos de Pesquisa Avançada em Defesa,
viu o AlphaGo e a AlphaStar,
e decidiu criar a competição AlphaDogfight.
É o que se espera de pilotos de caça humanos.
Parece competição de caça com humanos.
É uma luta entre pilotos de caça.
É como se fosse uma luta de boxe no céu.
Talvez tenham visto o filme Top Gun.
Conseguimos fugir deles?
- Não dos mísseis e armas. - É uma luta de caças.
Dominar a luta de caças pode levar de oito a dez anos.
É um desafio bastante complexo programar uma IA para isso.
A abordagem anterior entre autonomia e luta de caças era meio frágil.
O aprendizado de máquina era a melhor forma de resolver isso.
No começo, a IA não sabia nada sobre esse universo.
Não sabia que estava voando, o que era luta de caças e nem um F-16.
Só sabia as ações possíveis
e que podia explorá-las aleatoriamente.
A aeronave azul está treinando há pouco tempo.
Dá para ver que fica sacudindo,
voando de forma irregular e para longe do adversário.
À medida que progride,
podemos ver que o azul está definindo sua estratégia.
É uma posição melhor para atirar.
O algoritmo de aprendizado diz:
"Tome um biscoito. Continue fazendo isso. "
Podemos usar o computador e treinar os agentes muitas vezes, em paralelo.
É como um time de basquete.
Em vez de jogar contra um mesmo time,
viajamos o mundo e jogamos contra 512 times diferentes,
todos ao mesmo tempo.
É possível ficar bom muito rápido.
Conseguimos rodar essa simulação sem parar
e conseguir o equivalente a 30 anos de treinamento em dez meses.
Foi de mal conseguir controlar a aeronave
a assassino calculista.
No treinamento, a competição era contra outra IA.
Mas competir diretamente contra humanos era o objetivo final.
Meu nome é Mike Benitez.
Sou tenente-coronel da Força Aérea dos EUA
e estou na ativa há 25 anos.
Estive em 250 missões de combate
e sou formado em armas,
que é como se fosse Top Gun.
Nunca voei contra uma IA.
Estou muito animado para ver como vou me sair.
Vai ser uma ofensiva a 1.800 metros, cara a cara.
Cai dentro.
Ele está indo.
Que interessante…
- Morreu. - Acertei. Vitória perfeita.
Beleza, segundo round.
A IA está manobrando com tanta precisão
que eu não consigo acompanhar.
Vão se encontrar.
Agora já era.
Peguei!
Me pegou.
A IA não sente medo.
Tem um elemento emocional humano que a IA não tem.
Uma das estratégias mais interessantes que a IA criou
foi o tiro de frente.
Normalmente, os humanos preferem atirar por trás
porque é difícil de se esquivar.
Atirar pela frente é pagar para ver quem vai amarelar primeiro.
Quando chegamos de frente, 900, 150 metros de distância
podem passar rapidinho.
O risco de colisão é muito alto, por isso humanos não tentam.
A IA, a menos que seja instruída, não teme a morte.
Parece que estou lutando contra uma pessoa,
mas uma que não se importa nem um pouco com a segurança.
Ele não vai sobreviver.
Ele não tem tempo.
Boa noite.
Morri.
Abriu meus olhos saber
que talvez eu nem seja a melhor opção para a missão,
e que talvez a IA me substitua um dia.
Teto de 1.800m.
Desvio de 300m.
Com essa IA piloto comandando caças,
a vitória é implacável, é dominante.
Não é só ganhar por uma grande margem.
É pensar em como usar isso em nossas aeronaves. É poderoso.
É realista achar que uma IA vai pilotar um F-16,
e não falta muito para isso.
Se enfrentar uma IA piloto com uma taxa de vitória de 99.99999%,
você não tem chance alguma.
Quando penso que uma IA piloto já é invencível,
imagine o que uma equipe de 50, 100
ou 1.000 IAs piloto conseguiriam alcançar.
O enxame é uma equipe de aeronaves muito inteligentes
que trabalham juntas.
Elas compartilham informações sobre o que fazer, como resolver questões.
O enxame vai transformar e mudar o jogo
para nosso Exército e nossos aliados.
O alvo foi encontrado. Os drones o estão rastreando.
Beleza, agora o pouso.
O objetivo principal da pesquisa do enxame
é enviar muitos drones
a uma área de difícil acesso ou que é perigosa.
O Laboratório de Pesquisa do Exército apoia este projeto de pesquisa.
Para saber o que tem em uma área
que é de difícil acesso ou é grande demais,
enviar um enxame é um jeito fácil
de aumentar o alcance das pessoas
e coletar informações cruciais para a missão.
Enviamos o enxame
e vamos dar um único comando para que rastreie o alvo.
Com isso, os drones fazem o resto sozinhos.
A IA permite que os robôs se movam juntos como um enxame
de forma descentralizada.
Nos enxames pela natureza,
não há chefe nem um líder que diz o que devem fazer.
O comportamento parte de cada animal
seguindo algumas regras simples.
E, a partir disso, surge o comportamento coletivo que vemos.
O que é fascinante nos enxames na natureza
é a habilidade graciosa com que se movem.
É como se tivessem sido feitos para fazer parte do grupo.
O que gostaríamos de alcançar com nosso enxame de drones são,
como em enxames na natureza,
decisões sendo tomadas pelo grupo coletivamente.
Outras características que nos inspiram
são a confiabilidade e resiliência.
O enxame não para
se um único animal não fizer o que deve fazer.
Mesmo que um dos agentes caia ou falhe
e não consiga concluir a tarefa,
o enxame continua.
E esse é nosso objetivo final.
Em combates, temos a demanda de identificar aeronaves inimigas.
Antes, para fazer isso, uma pessoa precisava controlar um robô.
Com o aumento da autonomia,
espero ver um grande número de robôs
sendo controlados por um número pequeno de pessoas.
Não acho improvável que consigamos um time de mil,
porque cada agente vai poder agir como achar melhor,
e o céu é o limite.
Podemos mudar o aprendizado…
Estamos trabalhando com a simulação de enxames há algum tempo,
e está na hora de aplicar a aeronaves reais.
Vamos tentar três robôs de uma vez na rede
e começar a adicionar mais funções.
Queremos testar em sistemas menores,
mas também aplicar esses conceitos a sistemas maiores,
como um caça a jato.
Falamos muito
sobre como dar a um pelotão o poder de combate de um batalhão.
Ou a um batalhão o poder de combate de uma brigada.
Com o enxame, isso é possível.
Quando for possível usar todo esse potencial,
ataques militares terão uma nova estratégia de dissuasão.
Acho que o mais empolgante é o tanto de homens e mulheres
que vamos salvar se fizermos tudo certo.
Máquinas estarão em jogo
em vez de vidas humanas.
Alguns argumentam que armas autônomas tornarão guerras mais precisas
e mais humanizadas,
mas, na verdade, é difícil prever
como armas autônomas vão mudar guerras.
É como a invenção da metralhadora.
Richard Gatling era inventor
e viu soldados voltando feridos da Guerra Civil.
Ele quis achar um jeito de humanizar as guerras.
Para reduzir o número de soldados mortos,
tinha que reduzir os soldados em campo.
Com isso, ele inventou a Gatling, uma arma automática acionada por manivela
que poderia automatizar os disparos.
Aumentou 100 vezes o poder de fogo dos soldados.
Às vezes, esforços para tornar guerras mais precisas e humanizadas
podem ter o efeito oposto.
Imagine os efeitos de um ataque de drone fora de controle
em uma área rural
que leva a população a se voltar contra os EUA
e contra o governo local. Supostamente os mocinhos.
Agora, aumente isso em mil vezes.
A criação de um sistema de armas
que seja barato, escalonável e que não precise de operadores humanos
muda drasticamente as barreiras reais de conflitos.
Não consigo dormir pensando em um mundo em que a guerra é onipresente
e em que não carregamos mais seu custo humano e financeiro
porque nos distanciamos demais das…
vidas que serão perdidas.
Isso me assombra.
Eu só precisava de um exemplo de uso indevido da IA.
As consequências imprevistas de fazer aquele simples experimento
foram longe demais.
IA E MEDICAMENTOS: MAIS DANOS QUE BENEFÍCIOS
Quando fiz a apresentação
sobre as moléculas tóxicas criadas pela IA,
a plateia ficou de queixo caído.
CINCO MIL COMPOSTOS ERAM ANÁLOGOS AO VX
A próxima decisão foi se deveríamos publicar essa informação.
Por um lado, deveríamos alertar
para essa capacidade, mas, por outro,
não queríamos dar essa ideia a alguém.
Decidimos que valia a pena publicar
para tentar mitigar o uso indevido da IA
antes que fosse tarde.
AS DUAS FACES DA IA NA DESCOBERTA DE MEDICAMENTOS
COMO O USO INDEVIDO DE INTELIGÊNCIAS ARTIFICIAIS
A reação do público em geral foi chocante.
Dá para ver as métricas da página, quantas pessoas acessaram.
Com o tipo de artigo que escrevemos, é pura sorte
se mais de mil pessoas leem ao longo de um ano ou mais.
Dez mil pessoas leram em uma semana.
Depois foram 20, 30, 40 mil.
Chegou a dez mil pessoas por dia.
Fomos mencionados no The Economist, no Financial Times.
O Radiolab nos procurou.
Já ouvi falar deles!
Mas as reações ficaram fora de controle.
Pelos tuítes, as pessoas achavam que não poderia ficar pior.
"Por que fizeram isso?"
E aí recebemos um convite que eu nunca teria imaginado.
Houve muita discussão na Casa Branca sobre o artigo,
e queriam falar conosco urgentemente.
Claro, era uma honra
poder falar com pessoas desse nível.
Mas aí você se dá conta
que, caramba, é a Casa Branca. O chefão.
Isso envolveu reunir dados públicos…
Em cerca de seis horas, o modelo gerou cerca de 40 mil…
Perguntaram se precisava de um computador excepcional,
mas não é nada de mais.
Dá para usar um Mac comum de seis anos atrás.
E isso os surpreendeu.
Os encarregados de entender armas químicas
e as agências governamentais não tinham ideia desse potencial.
Temos um livro de receitas de armas químicas,
e, nas mãos da pessoa errada e mal-intencionada,
pode ser algo aterrorizante.
As pessoas precisam saber,
e temos que regulamentar a tecnologia
ou restringi-la para não ser usada de forma indevida
porque o potencial de letalidade…
é assustador.
A questão da ética da IA é bastante discutida em sociedade,
não por engenheiros ou técnicos, mas por matemáticos.
Cada tecnologia apresentada, cada inovação,
esbarra em como a sociedade acha que deve ser usada.
Por ora, o Departamento de Defesa diz:
"A única coisa que dá o comando de matar outra
no campo de batalha é um humano."
Uma máquina pode matar,
mas apenas sob o comando de um operador humano,
e acho que isso não vai mudar.
Eles nos garantem que esse tipo de tecnologia será segura,
mas o Exército dos EUA não tem uma boa reputação
no uso de drones em guerras.
Então, quando se trata de confiar o uso de IAs ao Exército dos EUA,
eu diria que o histórico fala por si só.
Pela política do Departamento de Defesa sobre armas autônomas,
nenhum sistema de armas é proibido.
E mesmo que os militares não queiram armas autônomas,
vemos que cada vez mais delegam decisões a máquinas
para não ficarem em desvantagem,
e isso pode levar o Exército a automatizar decisões
que talvez não queiram.
Vladimir Putin disse: "Quem for o líder em IA, vai dominar o mundo."
O presidente Xi Jinping deixou claro que a IA é uma das principais tecnologias
na qual a China quer ser líder.
É claramente uma competição tecnológica.
Já se ouve falar em regulamentações,
e acho que é o que as pessoas deveriam fazer.
Mas há uma corrida real pela liderança em IA.
E nossos adversários, seja China, Rússia ou Irã,
não vão se importar com qual é nossa política em relação à IA.
Tem muitas conversas sobre políticas de IA,
mas acho que mais líderes deveriam estar se perguntando
sobre quão rápido dá para desenvolver isso
e injetando um monte de financiamento.
REUNIÃO E EXPOSIÇÃO ANUAL DA AUSA
EXÉRCITO DOS ESTADOS UNIDOS
Estamos na maior feira anual da Associação do Exército dos EUA.
Qualquer empresa que quer vender produtos ou tecnologias para o Exército
vai estar expondo aqui.
A Base Aérea de Tyndall tem quatro robôs nossos
que patrulham o local o tempo todo.
Podemos adicionar de tudo, desde câmeras a sensores, o que precisar.
Braços articulados… Tudo para cumprir a missão que o cliente quiser.
E se o seu inimigo usar IA?
Um sistema de combate que pensa e responde mais rápido
do que um ser humano é capaz. Temos que estar preparados.
Treinamos os sistemas para coletar informações sobre o inimigo,
gerenciando a eliminação de alvos com a supervisão de humanos.
- Oi, general. - Como vai?
Bem, e o senhor?
Só quero dizer que somos quem mais investe em uma IA piloto.
A nossa se chama Hivemind
e a colocamos no quadricóptero Nova. Ele entra em prédios,
explora-os antes das forças especiais e da infantaria.
Estamos usando a Hivemind no V-BAT.
A ideia é criar centenas desses times
no Estreito de Taiwan, na Ucrânia, não importa, para dissuadir adversários.
Estou muito animado com isso.
- Certo. Obrigado. - Obrigado, general.
As IAs piloto vão dominar, e isso deve acontecer até 2025, 2030.
Vão ser rapidamente adotadas por exércitos do mundo todo.
E o Exército da Romênia com as aeronaves não tripuladas?
Alta tecnologia no Exército.
Já gastamos meio bilhão de dólares na criação de uma IA piloto
e vamos gastar mais um bilhão nos próximos cinco anos.
É um dos principais motivos pelos quais ganhamos financiamentos.
Bacana.
É impressionante. Conseguiu adicionar armas?
Neste aqui não tem armas ainda.
Então ainda não. Mas pretendemos, no futuro.
Para o cliente, é um caminhão. Para nós, é um caminhão inteligente
que consegue fazer várias coisas.
- Valeu. - Claro.
Vou entrar em contato.
Se voltar em dez anos,
verá que IA e autonomia vão ter dominado todo o mercado.
Os Exércitos que contarem com o apoio da IA e da autonomia
vão dominar, acabar e destruir aqueles que não tiverem isso.
Será o equivalente a cavalos contra tanques,
pessoas com espadas contra metralhadoras.
Não vai nem chegar perto.
Vai estar por toda parte, vai ser usada em cada aspecto da guerra,
no nível tático,
no nível estratégico,
operando em velocidades que são impossíveis para humanos.
Os comandantes já estão sobrecarregados com informações demais.
Imagens de satélites, de drones e de sensores.
A IA pode ajudar um comandante a entender mais rápido a situação
e quais decisões precisam ser tomadas.
A IA vai levar em conta todos os fatores
que determinam a forma como a guerra é travada,
vai sugerir estratégias…
e recomendar formas de vencer uma batalha.
CENTRO DE INOVAÇÃO
Nós da Lockheed Martin, assim como o Departamento de Defesa,
vemos a IA como uma tecnologia crucial para garantir
o comando e o controle.
A taxa de propagação tem uma média de 60cm por segundo.
Este perímetro tem cerca de 280 hectares.
As incertezas da guerra fazem parte da defensiva,
mas podemos comparar com estar no local
e ter que tomar decisões relativas a incêndios.
O incêndio em Washburn ocorreu ao norte de Wawona.
Precisamos tomar decisões com dados imperfeitos.
Então como podemos usar a IA para nos ajudar com essas incertezas?
Incêndios florestais são caóticos.
São muito complexos.
Por isso, estamos trabalhando para usar inteligência artificial
para ajudar nas decisões.
O Gerente Cognitivo de Missão é um programa nosso
que grava vídeos infravermelhos aéreos
e depois processa por meio de nossos algoritmos de IA
para poder prever o estado futuro do incêndio.
No futuro,
o Gerente Cognitivo de Missão vai usar simulações,
rodando cenários em milhares de ciclos,
para recomendar a forma mais eficaz de utilizar recursos
para acabar com o fogo em áreas de alta prioridade.
Ele vai sugerir coisas como: "Ação aérea com helicóptero aqui.
Equipes em solo que limpam a mata,
e bombeiros com mangueiras
precisam ir para as áreas de maior prioridade."
Essas decisões poderão ser geradas com mais rapidez
e mais eficiência.
Aos nossos olhos, a IA permite que humanos
sejam capazes de acompanhar o ambiente em constante mudança.
E há vários paralelos
para mostrar com o que estamos acostumados no quesito defesa.
O Exército não quer mais usar IAs
e sistemas de armas individuais apenas para alvos e execuções.
A ideia é integrar a IA
em toda a arquitetura de tomada de decisões do Exército.
O Exército tem um grande projeto chamado Projeto Convergência.
A Marinha tem o Vantagem.
E a Aeronáutica, o Sistema Avançado de Controle de Batalha.
O Departamento de Defesa pensa
em como juntar todas essas peças
para que operemos mais rápido que os adversários
e de fato levemos vantagem.
Uma IA gerenciadora de batalha seria um general de alto escalão
no comando da batalha,
ajudando a dar ordens para várias forças,
coordenando as ações de todas as armas existentes
e fazendo tudo isso em uma velocidade desumana.
Passamos os últimos 70 anos
construindo o Exército mais sofisticado do mundo
e, agora, estamos diante da decisão de ceder o controle
dessa infraestrutura para um algoritmo, um software.
E as consequências dessa decisão
podem desencadear toda a potência dos nossos arsenais militares.
Não seria uma Hiroshima. Seriam centenas.
Este é o momento em que precisamos agir
porque a janela de tempo para conter esse risco está se fechando.
Esta tarde, vamos começar com desafios internacionais de segurança
impostos por tecnologias emergentes
na área de sistemas autônomos de armas letais.
O diálogo foi aberto dentro da ONU
sobre a ameaça de armas letais autônomas
e nossa proibição de sistemas que usam IAs para selecionar pessoas.
O consenso entre técnicos da área é claro e retumbante.
Somos contra armas autônomas cujos alvos são humanos.
Durante anos, os governos contribuíram para a discussão
dos sistemas autônomos de armas letais.
Trata-se de um senso comum de segurança.
Mas é claro que não é fácil.
Certos países, principalmente as potências militares,
querem se adiantar
para ficarem à frente de seus adversários.
O problema é que todos têm que concordar para que algo seja feito.
Pelo menos um país fará objeções,
e os EUA e a Rússia já deixaram claro
que se opõem a um tratado que proíba armas autônomas.
O número de pessoas trabalhando para tornar a IA mais poderosa
não é pouco.
O número de pessoas trabalhando para garantir que a IA seja segura
não é tão grande assim.
Mas também estou muito otimista.
A Convenção para a Proibição de Armas Biológicas, por exemplo,
aconteceu no meio da Guerra Fria
apesar das tensões entre a União Soviética e os EUA.
Eles foram capazes de perceber que o desenvolvimento de armas biológicas
não era interessante para nenhum dos dois,
e muito menos para o resto do mundo.
A corrida armamentista favorece velocidade em vez de segurança.
Mas acho importante considerar que,
em algum momento, o custo da rapidez se torna muito alto.
Não podemos desenvolver algo isoladamente
e jogar para o mundo sem pensar que fim vai levar no futuro.
Temos que evitar o momento da bomba atômica.
Os riscos na corrida da IA são enormes.
Acho que muitas pessoas não valorizam a estabilidade mundial
proporcionada pelo fato de termos uma força militar superior
nos últimos 75 anos.
Os EUA e nossos aliados
precisam superar a IA dos adversários.
Não há segundo lugar na guerra.
A China traçou um plano ambicioso para ser líder mundial em IA até 2030.
Dizem que os EUA estão perdendo a corrida…
Vamos acelerar a adoção da inteligência artificial
para garantir uma vantagem militar competitiva.
Essa tecnologia está avançando.
Acho que o que não está claro é até onde vamos chegar.
Nós controlamos a tecnologia ou ela nos controla?
Não terão segundas chances.
Depois que o caldo entornou, não tem como consertar.
Seria muito difícil voltar atrás.
E se não agirmos agora, vai ser tarde demais.
Talvez já seja tarde demais.
Legendas: Júlia Schaefer Trindade