Dados todos os efeitos da IA na sociedade, a resultante é positiva?
O texto abaixo me causou uma grande reflexão sobre IA e tecnologia na última semana.
Canudos de papel também tem impacto ambiental e um monte de químicos eternos. Trocar canudos de plástico por papel não é tão obviamente efetivo quanto possa inicialmente parecer.
Diversos eventos que ocorreram nos últimos meses no Brasil me impactaram profundamente: quedas de energia, calor extremo, tiroteio em escolas, morte no show da Tatlor Swift, notícias falsas em eleições. Todos problemas complexos, importantes e difíceis de resolver.
Todos os “maravilhosos” benefícios de IA que tenho visto não estão ajudando a resolver esses problemas. Não tem ChatGPT, Bard, Midjourney, dall-e e Bing à altura desses problemas. Mesmo tentativas de usar tecnologia a servíço de problemas complexos como saúde mental esbarram em preocupações básicas de privacidade.
Outras melhorias importantes, como esta notícia sobre previsão do tempo usando modelos de IA, esbarram em um segundo problema: colocar planos em prática ainda requer pessoas e todas suas complexidades. Para se ter uma ideia do que isso significa, vale a pena ler o texto abaixo.
Este artigo conta a história de uma mudança de horários de ônibus em Chicago feita por uma equipe de pesquisadores do MIT. O algoritmo e a solução encontrada por ele tinham diversos benefícios e cuidados com a população, mas diversos fatores humanos fizera a iniciativa de anos de trabalho naufragar.
Isso tudo sem contar os problemas que já foram reportados com tecnologias baseadas em IA:
- Impacto ambiental
- Problemas com reconhecimento facial pela policia
- Táxis autônomos tinham dificuldade para identificar crianças e a Cruise (controlada pela GM) sabia disso e continuou com os carros na rua. Essa informação foi revelada após um acidente de trânsito envolvendo um dos táxis
- radicalização via youtube
Mais ainda: um brasileiro jovem médio teria dificuldade de verificar informações sugeridas por sistemas de IA e raciocinar sobre seus efeitos e benefícios. Afinal,segundo o IBGE, 18,3% dos jovens entre 15 e 29 anos não concluiram o ensino médio e cerca de 60% não estavam estudando.
Da mesma maneira que o texto sobre os canudos de plástico, me parece que estamos adotando de maneira rápida uma série de tecnologias e ferramentas que tem tantas interações complexas que não é claro que a resultante disso é positiva. Ela pode ser positiva? Não sei, mas ferramentas de IA existem e os alunos usam. Como docente, gistaria de transformar esse uso então em algo que traga benefícios e que seja socialmente inserido. Imagine o que aconteceria se conseguissemos formar gente que tenha conhecimento profundo sobre tecnologia E se importa com sua utilização na sociedade? Pra mim essa é uma das questões mais interessantes da docência no momento e é algo que quero explorar mais no futuro.