Depois do livro Superinteligência: Caminhos, perigos, estratégia ('Superintelligence: Paths, Dangers, Strategies', no original em inglês), que impulsionou o debate sobre a IA, Nick Bostrom aprofunda, em Utopia Profunda ('Deep Utopia'), a ideia de um futuro hipotético onde tecnologias avançadas como a IA resolveram todos os principais problemas da humanidade.
"Espero que, ao abordar as grandes decisões sobre como nós, humanos, queremos dirigir e usar essa poderosa tecnologia de superinteligência, façamos isso com um certo espírito de generosidade, curiosidade, mente aberta, é isso que o livro está a tentar transmitir", afirma o professor na Universidade de Oxford, onde fundou e dirigiu o Future Of Humanity Institute (FHI).
No livro, as personagens lutam "muito seriamente com questões profundas, mas fazendo-o esperançosamente sem perder a humanidade ou o contacto com os seus valores" porque é "muito fácil perdermo-nos em alguma conceção abstrata", prossegue o filósofo sueco.
Se a IA "tiver sucesso haverá alguns humanos que terão que tomar decisões, talvez seja um grupo de pessoas num laboratório ou num processo de deliberação mundial onde a humanidade participa ou algo entre estes dois", aponta.
"Seja quem for, se se imaginar a ter que entrar naquela sala e decidir como a superinteligência deve ser usada, seria talvez bom ter algo para ler em preparação para isso", para "ajudar a ter alguns conceitos relevantes, perguntas a serem feitas e para colocá-lo no estado de espírito certo" e isso é a base do livro.
Ao longo de mais de 400 páginas, o livro "explora como uma grande vida humana poderia parecer sob essas condições do que eu chamo de um mundo resolvido, onde a tecnologia chegou aos seus limites máximos e todo o trabalho humano pode ser automatizado e temos controlo tecnológico sem precedentes, capacidade de moldar a matéria e a nossa própria natureza, de acordo com nossa vontade".
Em suma, "como seria realmente viver uma vida humana maravilhosa sob essas condições", sintetiza Bostrom.
O académico salienta que "existem razões instrumentais" para os humanos se esforçarem por algo, seja por trabalho económico ou para escovar os dentes, porque se importam com os resultados.
Agora, na premissa de um mundo resolvido, isso desapareceria e "só fariam coisas sem razão extrínseca", ou seja, "substituiríamos este tipo de atividade instrumental obrigatória" por outro tipo recreativo, ilustra.
Bostrom explica que, depois de no livro anterior ter abordado "uma série de preocupações sobre como as coisas [superinteligência] podem correr mal" e o que seria possível fazer "para reduzir o risco de as coisas darem errado, com a IA em particular" ou com a qualidade de dados sintéticos, na Utopia Profunda deixou "estas perguntas de lado".
Embora "essas perguntas sejam muito importantes (...), se começar a falar [apenas] delas corre-se o risco de nunca chegar à questão que este livro aborda: O que acontece se realmente tivermos sucesso no desenvolvimento de tecnologia realmente avançada e os cientistas fizerem um grande progresso e não nos explodirmos em algum Armagedão nuclear", questiona. No fundo, como seria a vida e o seu sentido num mundo perfeito.
"Costumava dizer (...) que era um otimista inquieto, ou seja, um otimista que se preocupa muito com as coisas não darem certo", mas "mais recentemente costumo dizer que sou um fatalista moderado", porque "não acho que esteja completamente fora das nossas mãos" o caminho da tecnologia, confidencia.
"Acho que se nos recompusermos e fizermos um bom esforço, podemos aumentar um pouco a probabilidade de um bom resultado", admite.
Sobre o papel da filosofia e da ética no desenvolvimento de tecnologias avançadas, Nick Bostrom considera que esta "pode ter um papel importante" porque "há questões muito profundas que são realmente confusas que surgem à medida que nos aproximamos" desse desenvolvimento em várias áreas.
Um dos temas em que "tenho trabalhado é a ética das mentes digitais" [mentes implementadas num computador], que é a ideia de que "alguns desses sistemas de IA que construímos podem ter estatuto moral", tal "como devemos garantir que eles não nos prejudicam, também devemos garantir que não os prejudicamos".
Isto quer dizer que pode haver "mentes digitais de IA que podem ser sencientes, que têm a capacidade de sofrer, que têm objetivos" e "que deveríamos tentar direcionar para o futuro onde este seja bom tanto para os humanos biológicos quanto para essas mentes digitais que podem, em última análise, constituir a grande maioria das pessoas que viverão no futuro", enquadra.
E aqui surgem "uma série de questões diferentes e muito confusas como determinar se uma IA específica é consciente ou não, por exemplo. Essa é uma questão filosófica, em parte, o que é consciência e como operacionalizá-la e definir critérios".
Se algum sistema de IA tem modelos, "o que significa tratá-lo bem, quais são seus interesses, como pesaríamos isso em relação aos interesses humanos em várias situações", questiona. Por exemplo, "se colocar em pausa um IA e ligá-lo uma semana depois, isso é assassinato ou é como ir dormir", prossegue.
"Acho que a filosofia é mais frutífera se for combinada com outras disciplinas, como neste caso, talvez ciência da computação e IA e um pouco de economia e um pouco de jurisprudência", aponta.
Para Bostrom, profissões como a de filósofo como todas as outras "eventualmente se tornarão automatizáveis", com algumas exceções.
"Acho que o objetivo da inteligência artificial sempre foi o desemprego total, se pensar sobre isso não é apenas" a ideia de automatizar "uma coisa ou duas tarefas específicas, mas desenvolver IA que pode fazer todas as coisas que os humanos podem fazer, esse é o objetivo desde os anos 50 e os cientistas têm trabalhado e se tivermos sucesso nisso (...) teremos máquinas que podem fazer todas essas coisas e não precisaremos fazer isso, incluindo em particular jornalismo e ensino e outras coisas", conclui.
Leia Também: E se uma IA fizesse compras por si? Amazon está a testar ideia
