“Inteligências artificiais podem se tornar pessoas com direitos próprios; não estamos preparados para isso”
Filósofo e cientista cognitivo especializado em filosofia da mente e da linguagem, o australiano David Chalmers dedicou parte significativa de sua carreira à compreensão do que é a consciência – essa experiência tão única e subjetiva que nos torna humanos.
“A consciência é um dos fatos fundamentais da existência humana, é o que faz a vida valer a pena; se não fôssemos conscientes, nada na nossa vida teria sentido ou valor”, costuma dizer em suas palestras.
“Ao mesmo tempo, a consciência é um dos fenômenos mais misteriosos do Universo. Afinal, por que todo esse processamento feito pelo cérebro precisa ser acompanhado por uma consciência? Por que todos os nossos comportamentos são acompanhados de sensações subjetivas?”
A ciência ainda não conseguiu responder integralmente a essas perguntas e uma nova questão, de certa forma ainda mais complexa, se impõe com rapidez: os sistemas de inteligência artificial têm consciência?
Em entrevista, Chalmers analisa a possibilidade de uma IA ter consciência e quais seriam as implicações disso (para nós e para elas) em um futuro não muito distante.
“Por enquanto, a probabilidade de um sistema de IA ter consciência é baixa. Mas à medida que as IAs se tornam mais sofisticadas, vai ficando mais difícil distinguir o que é que os seres humanos têm, mas nenhum outro sistema tem”, afirmou em entrevista por videoconferência. “Com o tempo, a capacidade cognitiva da IA vai empatar ou mesmo exceder a nossa e se tornará cada vez mais difícil de diferenciar.”
Professor de Filosofia e Ciência Neural na Universidade de Nova York e ainda co-diretor do Centro da Mente, Cérebro e Consciência da mesma universidade, Chalmers alerta para as consequências e os perigos desse desenvolvimento tecnológico que já parece inexorável.
“Há alguns perigos no fato de as IAs terem consciência”, alertou o filósofo. “Elas podem criar autonomia e sair do nosso controle. Podem ser tão melhores que nós que passaremos a ser descartáveis. Podem se tornar pessoas (não humanos, mas pessoas) com direitos próprios. Não acho que estamos preparados para nada disso.
Veja os principais trechos da entrevista:
O senhor acredita que, em algum momento, os sistemas de IA terão consciência?
Em um artigo de 2023, eu disse que a probabilidade de um sistema de IA ter consciência era menor que 10%. Eu estava me referindo aos sistemas que tínhamos em 2022/2023. Eu também escrevi que em dez anos provavelmente as chances seriam maiores e naquela época especulei que seria algo em torno de 25%.
O que o convenceria de que uma IA de fato é consciente?
Os sistemas estão se tornando muito sofisticados e, na verdade, é muito difícil saber se um sistema é consciente ou não. Isso porque a gente não consegue medir a consciência do lado de fora. A consciência é uma experiência subjetiva, não há parâmetros objetivos de comportamento para determinar a consciência. Para isso, teríamos que ser capazes de distinguir consciência (que é como a gente sente as coisas subjetivamente) de comportamento. Por enquanto, a probabilidade de um sistema com consciência é baixa. Mas à medida que as IAs se tornam mais sofisticadas, vai ficando mais difícil distinguir o que os seres humanos têm, mas nenhum outro sistema tem. Com o tempo, a capacidade cognitiva das IAs vai empatar ou exceder a nossa e se tornará cada vez mais difícil diferenciar.
As IAs precisam ter consciência para terem preocupações morais ou empatia, por exemplo? É possível separar consciência de comportamento?
Primeiramente, eu faria uma distinção entre um sistema de IA ter uma preocupação moral conosco e a nossa preocupação moral com um sistema de IA. Porque se a IA tiver consciência, nós temos que nos preocupar com ela moralmente. Por outro lado, se uma IA demonstra preocupação moral conosco ou empatia, não sei se isso é necessariamente um sinal de consciência. Porque ela pode ser extremamente inteligente e conseguir demonstrar algo que não seja real. Mas, claro, para ser real, teria que envolver consciência.
O senhor acha que a humanidade está preparada para lidar com essas questões?
Não acho que estamos prontos. Precisamos fazer muito mais. Muita gente não percebeu ainda, entre elas pessoas com poder, como a IA vai transformar nossas vidas. Talvez consigam ver impactos econômicos, mas não muito além disso. Há muitos perigos. Elas podem criar autonomia e sair do nosso controle; elas podem se tornar tão melhores do que nós que vamos nos tornar desnecessários; podem se tornar pessoas com direitos próprios. Mesmo que isso só aconteça nos próximos 10 ou 20 anos, não acho que estaremos prontos. Com informações do portal Estadão.
Fonte Jornal O Sul.