Amparo Alonso Betanzos, especialista em IA, responde a perguntas sobre o tema
Porto Velho, RO - Em 2022, ouvimos pela primeira vez que um sistema de inteligência artificial se tornou senciente, ou seja, dotado de sensações ou impressões próprias, de acordo com um engenheiro do Google.
Mais recentemente, imagens do software DALL-E se tornaram virais, assim como o ChatGPT.
Depois vieram os alertas, os medos, os pedidos de regulamentação. E as dúvidas.
Por isso, a BBC News Mundo, serviço em espanhol da BBC, compilou as principais perguntas sobre inteligência artificial (IA) feitas por seus leitores e consultou uma especialista que trabalha na área há mais de 30 anos para tentar respondê-las.
A especialista é Amparo Alonso Betanzos, professora de Ciência da Computação e Inteligência Artificial na Universidade de Coruña, na Espanha, e assistente do reitor para questões de IA. Ela também foi presidente da Associação Espanhola de Inteligência Artificial (AEPIA).
Confira, a seguir, as respostas dela.
A IA pode ter consciência própria e sentimentos? - Getty Images via BBC
Como funciona a inteligência artificial?
É difícil dizer porque existem muitas subáreas, mas há basicamente duas maneiras de abordar a inteligência artificial. Uma é a simbólica, a velha IA, sobre a qual adquirimos conhecimento de especialistas da área e que é muito mais transparente, mas menos quantificável.
A outra, a IA que temos hoje, é baseada em dados. Para derivar o conhecimento, o que se faz é alimentar o sistema com dados de um determinado campo, o sistema aprende com esses dados e extrai os padrões. É capaz de generalizar, prever e etc. em muitas áreas, desde linguagem natural, visão computacional ou aprendizado de máquina.
Existem modelos em que o processo é feito por raciocínio baseado em aprendizagem profunda com redes neurais com muitas camadas que acabam aprendendo aquele dado. Mas existem outros modelos, como raciocínio de reforço ou outros tipos, que podem ser usados para aprender e derivar conhecimento para a IA.
A IA "se alimenta" de dados. De onde vêm essas informações?
Depende muito do sistema. Se for um sistema especialista para padrões médicos, ele é extraído dos grandes bancos de dados clínicos que são referenciados por certos tipos de doenças ou certos tipos de pacientes. Se forem dados de trânsito, serão utilizadas as câmeras ou sensores de trânsito disponíveis.
Hoje, o processo de digitalização em que estamos inseridos é tão imenso que existem sensores que podem extrair dados de praticamente qualquer processo natural ou industrial que possamos imaginar. Praticamente todas as experiências que você pode imaginar são digitais: suas viagens, seus registros médicos, suas preferências...
Por exemplo, quando você se senta em frente à televisão e ela recomenda o que assistir, é baseado no que você já fez antes naquela plataforma. Às vezes, tudo isso é o alimento dos algoritmos de IA.
Os bancos de dados "alimentam" a IA e estes, por sua vez, vêm de qualquer processo digital que possamos imaginar - Getty Images via BBC
Como é a IA? Muitos imaginam algo como um computador enorme ou uma máquina estilo T100 do Terminator.
Não. Não é assim... A menos que você tenha seus programas de IA embutidos em algum robô de aparência antropomórfica. Pode ser como um aspirador automático que anda pela casa ou tem forma humanoide, mas também é simplesmente ligar o computador e ter um software que te escuta, ou um programa no celular que detecta sua impressão digital.
É impossível dizer um número, quantos são. Os sistemas são muitos e servem para coisas muito diferentes, desde a televisão que recomenda o que ver a uma app para prever se vinhedos vão desenvolver alguma praga. É algo muito transversal. Pode ser aplicado a praticamente qualquer área que se possa imaginar.
E qual é o impacto da IA no nosso dia a dia, nos empregos...?
Muitas vezes estamos usando inteligência artificial e nem temos consciência disso.
No futuro, tendemos a ter mais IA porque está sendo implementada em mais e mais áreas.
Em relação ao emprego, antes da pandemia vimos como o panorama mudou. Existem muito mais empregos afetados pela automação, não apenas pela IA. Vemos isso nos supermercados, com cada vez mais máquinas em vez de caixas, por exemplo.
Isso mudará as formas de trabalhar, principalmente em tarefas automatizadas, e teremos que conviver com o fato de que parte de nossas tarefas rotineiras será feita por máquinas. Dou como exemplo os médicos, que há 50 anos trabalhavam com quase nenhum instrumento e hoje têm muito mais máquinas à sua disposição.
É claro que afetará os empregos e a economia, e é algo com o qual os governos devem lidar. Devemos ficar atentos porque, caso contrário, pode gerar grandes desníveis. E sim, alguns empregos serão destruídos, mas outros serão criados.
Ultimamente lemos muito, ou assim percebo, que a IA será catastrófico. Se está criando certo clima de pânico que penso que deve ser tratado com cuidado. Muitas vezes focamos apenas no lado mais trágico, mas a IA é uma ferramenta que tem muitas coisas boas a oferecer se for bem manuseada.
“Focamos apenas no lado mais trágico, mas a IA é uma ferramenta que tem muitas coisas boas se for bem manuseada”, diz a especialista - Getty Images via BBC
Por exemplo, nos últimos anos, vimos a capacidade da IA em avançar a medicina preventiva. Ela pode nos ajudar no aprendizagem, podemos ser muito mais seletivos com os nossos alunos e adaptar o seu ensino, poder prever doenças do gado, combater as alterações climáticas, fazer coisas mais sustentáveis ou gerir melhor os estoques de uma loja.
Existem muitos aspectos positivos que devemos aprender a aproveitar e nos proteger daqueles que podem nos prejudicar.
Que perigos a IA pode representar?
Um dos riscos é, por exemplo, que o sistema se comporte de maneira inadequada e a pessoa no controle não seja capaz de detectar, caso a supervisão não seja tão rigorosa. Mas esse é um erro humano do qual não estamos livres, mesmo com a IA.
É também uma profissão ainda muito marcada pelo gênero masculino e é importante termos consciência de que parte do futuro vai ser desenhado com a tecnologia. Como chegaremos lá, como queremos que seja o futuro é importante, por isso o desenho dessas ferramentas exige que estejamos atentos aos vieses e exige a participação de todos.
O viés é um grande risco na IA. Para isso, diz a especialista, é conveniente que todos façamos parte de seu desenvolvimento - Getty Images via BBC
Mas acho que está ajudando as pessoas, capacitando-as na tomada de decisões. Imagine que você é médico e está analisando um caso em que há muitos sintomas e dúvidas. Você pergunta a um colega, no caso, uma IA, e isso reduz suas chances de errar na decisão. É uma ajuda, mas a decisão final cabe a você. Assim como o algoritmo em uma plataforma pode dizer a você o que assistir, mas no final é você quem decide, não a máquina.
É certo que estamos progredindo muito com a IA e que a regulamentação é importante.
A IA pode ser regulada ou é como enxugar gelo? Já vimos o que aconteceu com a internet e a 'deep web', por exemplo.
Há muito que a União Europeia se preocupa com isto. Estamos indo devagar, mas há uma proposta na mesa.
As conversas sobre esse tópico começaram em 2018, quando foi criado um grupo de especialistas em inteligência artificial de alto nível que produziu diretrizes para uma inteligência artificial confiável. Naquele momento já se falava de uma supervisão humana da IA e aspectos como sustentabilidade, ausência de viés ou segurança foram analisados.
Por exemplo, a supervisão humana é um dos pontos básicos contemplados nas regulamentações europeias. Isso significa que qualquer sistema de inteligência artificial sempre deverá ter um supervisor humano durante todo o processo de iniciação da operação, coleta dos dados e nos setores por trás de sua aplicação.
Fomos pioneiros na UE e agora vemos empresas de fora do bloco, dos Estados Unidos especialmente, insistindo na necessidade dessa regulamentação.
É algo que deve ser feito mundialmente e estamos trabalhando nisso. O importante é dar o primeiro passo.
Tudo pode ser regulado? A resposta é complexa porque a IA é complexa e é claro que não existe risco zero aqui ou em qualquer lugar. Por exemplo, nós regulamos e fazemos leis de trânsito, mas isso não evita acidentes.
A regulamentação global seria desejável, mas é algo difícil de alcançar. É só olharmos o protocolo de Kyoto, por exemplo... Nem todos os países assinam e não há como forçá-los a fazê-lo. Para além da União Europeia não é fácil convencer os outros grandes centros de IA do mundo, como China e Estados Unidos, de que a regulamentação é necessária.
Quanto mais a IA avança, maior é sua capacidade de substituir os empregos humanos - Getty Images via BBC
Acho que, para além do barulho feito pela imprensa, todos deveríamos nos preocupa, porque é importante regular essa tecnologia e o monitoramento constante de sistemas inteligentes deve ser arbitrado.
Ultimamente vimos muitas manchetes e especialistas dizendo que a IA pode levar à extinção da humanidade... É isso mesmo?
É difícil dizer até onde vai a inteligência artificial, mas é preciso ter sempre um jeito de interromper ou desligar as máquinas.
Elas estão sendo projetadas por pessoas... Assim como as pessoas estão trabalhando com energia nuclear. Então acho importante detectar se há algum problema e definir padrões de segurança e aplicação.
Mas na minha opinião, o que está acontecendo com a IA aconteceu também com os carros quando eles apareceram. A princípio pensava-se que seriam extremamente perigosos, que poderiam matar pessoas e que a velocidade que alcançavam poderia desnaturar as proteínas do nosso corpo. Hoje sabemos que não é assim e temos a tecnologia sob nosso controle, temos regulamentações e etc.
A IA pode superar a inteligência humana e se tornar consciente?
Quase todos os sistemas de IA excedem nossa inteligência, mas isso acontece apenas em um determinado campo.
A maioria das IAs que temos são de nicho estreito: capazes de ter um nível muito alto de inteligência em um campo muito específico. Por exemplo, a máquina AlphaGo (que aprendeu a jogar Go, um jogo de tabuleiro) pode vencer o campeão mundial de Go, mas precisa ser ensinada a jogar outros jogos, como o xadrez, para poder vencer uma partida.
Elas podem ser ótimas para diagnosticar um tipo de câncer, mas não funcionam como clínicos gerais, porque o conhecimento necessário é mais amplo.
E sobre a consciência... É possível, entre aspas, modelá-la.
Existem robôs que podem modelar sentimentos e podem parecer ter consciência real, mas sequer sabemos como certos processos de consciência acontecem nos humanos, então é algo muito complexo e vasto.
Embora existam ferramentas como os chats, que parecem mais transversais por serem baseadas na linguagem, na realidade o que essas máquinas fazem é prever a próxima palavra de um texto. São buscadores muito sofisticado, mas que não são capazes de raciocinar profundamente porque não têm consciência. É como um papagaio treinado e muito inteligente.
Fonte: Folha de São Paulo
Porto Velho, RO - Em 2022, ouvimos pela primeira vez que um sistema de inteligência artificial se tornou senciente, ou seja, dotado de sensações ou impressões próprias, de acordo com um engenheiro do Google.
Mais recentemente, imagens do software DALL-E se tornaram virais, assim como o ChatGPT.
Depois vieram os alertas, os medos, os pedidos de regulamentação. E as dúvidas.
Por isso, a BBC News Mundo, serviço em espanhol da BBC, compilou as principais perguntas sobre inteligência artificial (IA) feitas por seus leitores e consultou uma especialista que trabalha na área há mais de 30 anos para tentar respondê-las.
A especialista é Amparo Alonso Betanzos, professora de Ciência da Computação e Inteligência Artificial na Universidade de Coruña, na Espanha, e assistente do reitor para questões de IA. Ela também foi presidente da Associação Espanhola de Inteligência Artificial (AEPIA).
Confira, a seguir, as respostas dela.
A IA pode ter consciência própria e sentimentos? - Getty Images via BBC
Como funciona a inteligência artificial?
É difícil dizer porque existem muitas subáreas, mas há basicamente duas maneiras de abordar a inteligência artificial. Uma é a simbólica, a velha IA, sobre a qual adquirimos conhecimento de especialistas da área e que é muito mais transparente, mas menos quantificável.
A outra, a IA que temos hoje, é baseada em dados. Para derivar o conhecimento, o que se faz é alimentar o sistema com dados de um determinado campo, o sistema aprende com esses dados e extrai os padrões. É capaz de generalizar, prever e etc. em muitas áreas, desde linguagem natural, visão computacional ou aprendizado de máquina.
Existem modelos em que o processo é feito por raciocínio baseado em aprendizagem profunda com redes neurais com muitas camadas que acabam aprendendo aquele dado. Mas existem outros modelos, como raciocínio de reforço ou outros tipos, que podem ser usados para aprender e derivar conhecimento para a IA.
A IA "se alimenta" de dados. De onde vêm essas informações?
Depende muito do sistema. Se for um sistema especialista para padrões médicos, ele é extraído dos grandes bancos de dados clínicos que são referenciados por certos tipos de doenças ou certos tipos de pacientes. Se forem dados de trânsito, serão utilizadas as câmeras ou sensores de trânsito disponíveis.
Hoje, o processo de digitalização em que estamos inseridos é tão imenso que existem sensores que podem extrair dados de praticamente qualquer processo natural ou industrial que possamos imaginar. Praticamente todas as experiências que você pode imaginar são digitais: suas viagens, seus registros médicos, suas preferências...
Por exemplo, quando você se senta em frente à televisão e ela recomenda o que assistir, é baseado no que você já fez antes naquela plataforma. Às vezes, tudo isso é o alimento dos algoritmos de IA.
Os bancos de dados "alimentam" a IA e estes, por sua vez, vêm de qualquer processo digital que possamos imaginar - Getty Images via BBC
Como é a IA? Muitos imaginam algo como um computador enorme ou uma máquina estilo T100 do Terminator.
Não. Não é assim... A menos que você tenha seus programas de IA embutidos em algum robô de aparência antropomórfica. Pode ser como um aspirador automático que anda pela casa ou tem forma humanoide, mas também é simplesmente ligar o computador e ter um software que te escuta, ou um programa no celular que detecta sua impressão digital.
É impossível dizer um número, quantos são. Os sistemas são muitos e servem para coisas muito diferentes, desde a televisão que recomenda o que ver a uma app para prever se vinhedos vão desenvolver alguma praga. É algo muito transversal. Pode ser aplicado a praticamente qualquer área que se possa imaginar.
E qual é o impacto da IA no nosso dia a dia, nos empregos...?
Muitas vezes estamos usando inteligência artificial e nem temos consciência disso.
No futuro, tendemos a ter mais IA porque está sendo implementada em mais e mais áreas.
Em relação ao emprego, antes da pandemia vimos como o panorama mudou. Existem muito mais empregos afetados pela automação, não apenas pela IA. Vemos isso nos supermercados, com cada vez mais máquinas em vez de caixas, por exemplo.
Isso mudará as formas de trabalhar, principalmente em tarefas automatizadas, e teremos que conviver com o fato de que parte de nossas tarefas rotineiras será feita por máquinas. Dou como exemplo os médicos, que há 50 anos trabalhavam com quase nenhum instrumento e hoje têm muito mais máquinas à sua disposição.
É claro que afetará os empregos e a economia, e é algo com o qual os governos devem lidar. Devemos ficar atentos porque, caso contrário, pode gerar grandes desníveis. E sim, alguns empregos serão destruídos, mas outros serão criados.
Ultimamente lemos muito, ou assim percebo, que a IA será catastrófico. Se está criando certo clima de pânico que penso que deve ser tratado com cuidado. Muitas vezes focamos apenas no lado mais trágico, mas a IA é uma ferramenta que tem muitas coisas boas a oferecer se for bem manuseada.
“Focamos apenas no lado mais trágico, mas a IA é uma ferramenta que tem muitas coisas boas se for bem manuseada”, diz a especialista - Getty Images via BBC
Por exemplo, nos últimos anos, vimos a capacidade da IA em avançar a medicina preventiva. Ela pode nos ajudar no aprendizagem, podemos ser muito mais seletivos com os nossos alunos e adaptar o seu ensino, poder prever doenças do gado, combater as alterações climáticas, fazer coisas mais sustentáveis ou gerir melhor os estoques de uma loja.
Existem muitos aspectos positivos que devemos aprender a aproveitar e nos proteger daqueles que podem nos prejudicar.
Que perigos a IA pode representar?
Um dos riscos é, por exemplo, que o sistema se comporte de maneira inadequada e a pessoa no controle não seja capaz de detectar, caso a supervisão não seja tão rigorosa. Mas esse é um erro humano do qual não estamos livres, mesmo com a IA.
É também uma profissão ainda muito marcada pelo gênero masculino e é importante termos consciência de que parte do futuro vai ser desenhado com a tecnologia. Como chegaremos lá, como queremos que seja o futuro é importante, por isso o desenho dessas ferramentas exige que estejamos atentos aos vieses e exige a participação de todos.
O viés é um grande risco na IA. Para isso, diz a especialista, é conveniente que todos façamos parte de seu desenvolvimento - Getty Images via BBC
Mas acho que está ajudando as pessoas, capacitando-as na tomada de decisões. Imagine que você é médico e está analisando um caso em que há muitos sintomas e dúvidas. Você pergunta a um colega, no caso, uma IA, e isso reduz suas chances de errar na decisão. É uma ajuda, mas a decisão final cabe a você. Assim como o algoritmo em uma plataforma pode dizer a você o que assistir, mas no final é você quem decide, não a máquina.
É certo que estamos progredindo muito com a IA e que a regulamentação é importante.
A IA pode ser regulada ou é como enxugar gelo? Já vimos o que aconteceu com a internet e a 'deep web', por exemplo.
Há muito que a União Europeia se preocupa com isto. Estamos indo devagar, mas há uma proposta na mesa.
As conversas sobre esse tópico começaram em 2018, quando foi criado um grupo de especialistas em inteligência artificial de alto nível que produziu diretrizes para uma inteligência artificial confiável. Naquele momento já se falava de uma supervisão humana da IA e aspectos como sustentabilidade, ausência de viés ou segurança foram analisados.
Por exemplo, a supervisão humana é um dos pontos básicos contemplados nas regulamentações europeias. Isso significa que qualquer sistema de inteligência artificial sempre deverá ter um supervisor humano durante todo o processo de iniciação da operação, coleta dos dados e nos setores por trás de sua aplicação.
Fomos pioneiros na UE e agora vemos empresas de fora do bloco, dos Estados Unidos especialmente, insistindo na necessidade dessa regulamentação.
É algo que deve ser feito mundialmente e estamos trabalhando nisso. O importante é dar o primeiro passo.
Tudo pode ser regulado? A resposta é complexa porque a IA é complexa e é claro que não existe risco zero aqui ou em qualquer lugar. Por exemplo, nós regulamos e fazemos leis de trânsito, mas isso não evita acidentes.
A regulamentação global seria desejável, mas é algo difícil de alcançar. É só olharmos o protocolo de Kyoto, por exemplo... Nem todos os países assinam e não há como forçá-los a fazê-lo. Para além da União Europeia não é fácil convencer os outros grandes centros de IA do mundo, como China e Estados Unidos, de que a regulamentação é necessária.
Quanto mais a IA avança, maior é sua capacidade de substituir os empregos humanos - Getty Images via BBC
Acho que, para além do barulho feito pela imprensa, todos deveríamos nos preocupa, porque é importante regular essa tecnologia e o monitoramento constante de sistemas inteligentes deve ser arbitrado.
Ultimamente vimos muitas manchetes e especialistas dizendo que a IA pode levar à extinção da humanidade... É isso mesmo?
É difícil dizer até onde vai a inteligência artificial, mas é preciso ter sempre um jeito de interromper ou desligar as máquinas.
Elas estão sendo projetadas por pessoas... Assim como as pessoas estão trabalhando com energia nuclear. Então acho importante detectar se há algum problema e definir padrões de segurança e aplicação.
Mas na minha opinião, o que está acontecendo com a IA aconteceu também com os carros quando eles apareceram. A princípio pensava-se que seriam extremamente perigosos, que poderiam matar pessoas e que a velocidade que alcançavam poderia desnaturar as proteínas do nosso corpo. Hoje sabemos que não é assim e temos a tecnologia sob nosso controle, temos regulamentações e etc.
A IA pode superar a inteligência humana e se tornar consciente?
Quase todos os sistemas de IA excedem nossa inteligência, mas isso acontece apenas em um determinado campo.
A maioria das IAs que temos são de nicho estreito: capazes de ter um nível muito alto de inteligência em um campo muito específico. Por exemplo, a máquina AlphaGo (que aprendeu a jogar Go, um jogo de tabuleiro) pode vencer o campeão mundial de Go, mas precisa ser ensinada a jogar outros jogos, como o xadrez, para poder vencer uma partida.
Elas podem ser ótimas para diagnosticar um tipo de câncer, mas não funcionam como clínicos gerais, porque o conhecimento necessário é mais amplo.
E sobre a consciência... É possível, entre aspas, modelá-la.
Existem robôs que podem modelar sentimentos e podem parecer ter consciência real, mas sequer sabemos como certos processos de consciência acontecem nos humanos, então é algo muito complexo e vasto.
Embora existam ferramentas como os chats, que parecem mais transversais por serem baseadas na linguagem, na realidade o que essas máquinas fazem é prever a próxima palavra de um texto. São buscadores muito sofisticado, mas que não são capazes de raciocinar profundamente porque não têm consciência. É como um papagaio treinado e muito inteligente.
Fonte: Folha de São Paulo
0 Comentários