Pesquisadores alertam sobre o risco de conclusões equivocadas em estudos genéticos e médicos quando são usados algoritmos de inteligência artificial (IA) para preencher lacunas de dados. Em estudos de associação genômica ampla (GWAS), que buscam ligações entre múltiplas variantes de múltiplos genes e características físicas ou doenças, o uso de IA pode criar “falsos positivos” identificando erroneamente correlações entre variações genéticas e doenças. Esses problemas surgem porque esses modelos de machine learning são propensos a introduzir vieses quando há dados incompletos. Os pesquisadores propuseram um método estatístico para reduzir esses erros e garantir maior precisão nos estudos, evitando que os pesquisadores confiem cegamente nas previsões de IA.
Em outro estudo, pesquisadores observaram que a IA pode ser boa em tarefas específicas, mas sem compreender realmente o mundo. Eles observaram que os modelos de linguagem grandes (LLMs) podem realizar tarefas impressionantes, como escrever poesia e criar programas de computador, mas apesar disso, não formam um um “modelo do mundo” coerente. Usando uma série de testes, os pesquisadores mostraram que esses modelos de IA, embora capazes de dar direções quase perfeitas em Nova York, não compreendem o layout real da cidade. Quando ruas foram fechadas ou desvios adicionados, os modelos falharam. Isso levanta questões importantes para a aplicação de LLMs em ciência e outras áreas, sugerindo a necessidade de abordagens alternativas se quisermos modelos que capturem uma representação precisa do mundo.
Links para os estudos:
http://dx.doi.org/10.1038/s41588-024-01934-0
https://news.mit.edu/2024/generative-ai-lacks-coherent-world-understanding-1105
Conteúdo por: Dr. Caio Robledo Quaio, MD, MBA, PhD
Médico Geneticista – CRM-SP 129.169 / RQE nº 39130
Saiba mais: https://www.geneaxis.com.br
Torne-se um mestre em Genômica com nossos cursos on-line: https://geneaxis.com.br/cursos-e-aulas
