Logo UniFOA

Letramento em IA: fundamentos

Aydamari Faria-Jr, BSc, MSc, PhD

Universidade Federal Fluminense

UniFOAO que são as IAs "atuais"?

O que são as IAs "atuais"?

Linha do tempo da Inteligência Artificial
UniFOAContexto

"O céu é []"

vs.

"portanto, o céu é []"

UniFOAModelos de Linguagem

Como os Modelos de Linguagem funcionam?

Exemplo de probabilidades de palavras
UniFOAProcessamento Serial

Processamento Serial

Ilustração do Wally para exemplificar o processamento serial
UniFOA"Attention Is All You Need"

Mecanismo de Atenção

Mecanismo de Atenção
UniFOAProcessamento Paralelo

Processamento Paralelo

Exemplo de processamento paralelo
UniFOAModelos de Linguagem

A Natureza Probabilística das IAs

Exemplo de probabilidades de palavras
UniFOA"Attention Is All You Need"

"Attention Is All You Need" - Arquitetura Transformer

Diagrama da arquitetura Transformer
UniFOAEtapas de Produção das IAs

Etapas de Produção das IAs

Pré-treinamento

Bilhões de dados/parâmetros

Treinamento & Pós-treinamento

Ajuste do modelo base

Finetuning

Especialização para tarefas

UniFOAEtapas de Produção das IAs - Analogia

Etapas de Produção das IAs - Uma Analogia Médica

Ciclo Básico e Clínico

Pré-treinamento

Internato

Treinamento

Primeiros Plantões

Pós-treinamento (com chefes)

Residência

Finetuning

DESAFIOS

UniFOADesafios Técnicos

Natureza dos LLMs

Probabilística

Aplicação na Medicina

Confiabilidade (Reliability)

UniFOADesafios Técnicos

Natureza dos LLMs

Probabilística

Alucinações

Aplicação na Medicina

Confiabilidade (Reliability)

Reprodutibilidade ("Reproducibility")

UniFOADesafios Técnicos

Natureza dos LLMs

Probabilística

Alucinações

Blackbox

Aplicação na Medicina

Confiabilidade (Reliability)

Reprodutibilidade ("Reproducibility")

Referências

Exemplos

UniFOACaso Clínico
Caso clínico de lesão cutânea

Homem de 46 anos, previamente saudável, procedente do RJ, hospedado em Curitiba há 3 dias, relata surgimento de duas lesões cutâneas no antebraço direito, uma em face anterior e outra em face posterior, ambas no mesmo dia, com algumas horas de diferença.

A lesão em face anterior apresenta-se como uma pápula eritematosa com petéquia central, circundada por halo endurecido e pruriginoso. Já a lesão em face posterior é indolor, com aspecto de mácula em alvo, sem elevação, com halo eritematoso periférico e centro mais claro.

Há cerca de 1 hora, refere sensação de mialgia localizada no antebraço e bíceps do mesmo membro, sem prática de exercício físico recente.

Qual a melhor hipótese diagnóstica?

UniFOAHipóteses Diagnósticas por IA

Hipóteses Diagnósticas por IA

Diferentes respostas de IAs para o mesmo caso
UniFOALimitações e Falhas

Limitações e Falhas Atuais

Exemplos de imagens com erros geradas por IA
UniFOADesafios: Publicações com Imagens Geradas por IA

Frontiers in Cell and Developmental Biology

Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway

PUBLISHED 13 February 2024 | DOI 10.3389/fcell.2023.1339390

UniFOADesafios: Imagens Geradas por IA

Figura 1: Anatomia Gerada por IA

Exemplo de artigo científico com imagens geradas por IA com erros
UniFOADesafios: Imagens Geradas por IA

Figura 2: Via de Sinalização Gerada por IA

Via de sinalização gerada por IA
UniFOADesafios: Impacto Cognitivo

Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

Slide sobre o conceito de dívida cognitiva
UniFOADesafios: Relação Médico-Paciente
Frases de pacientes baseadas em buscas online e em IAs
UniFOADesafios

Desafios Adicionais

Meme sobre bromismo
UniFOADesafios

Desafios Adicionais

Éticos
Legais
Institucionais/LGPD

SOLUÇÕES

UniFOASoluções Gerais

Prompts (Avançados)

  • COT
  • ToT
  • COD
  • CoL

Parâmetros

  • Temperatura
  • Top K
  • Top P
UniFOAParâmetros

Ajustando a "Criatividade" com Parâmetros

Interface de ajuste de parâmetros

Na prática

UniFOAGoogle AI Studio Live

Google AI Studio - Live

Interface do Google AI Studio Live
Acessar Google AI Studio
UniFOAPrompt Simples vs. Elaborado

Prompt Simples vs. Prompt Elaborado

Imagem de Rx de tórax com pneumotórax
UniFOAPrompt Simples vs. Elaborado

Prompt Simples vs. Prompt Elaborado

Imagem de Rx de pescoço com sinal da torre

PRODUTOS

(Conflitos de Interesses)

UniFOAProdutos
Logo da OpenEvidence
Acessar OpenEvidence
Logo da ClinicalKey AI+
Acesse 1 mês de CKAI
UniFOAProdutos
Logo da Livia Med
Acessar Livia Med
Logo da DxGPT
Acessar DxGPT
UniFOAProdutos: MedGemma & MedSigLIP

Ecossistema de IAs Médicas do Google

Diagrama MedGemma

Solução: educação

UniFOALetramento em IA

Letramento e treinamento em IA: corpo administrativo - LGPD


O compliance com a Lei Geral de Proteção de Dados (LGPD) é crucial. IAs conectadas à internet não devem processar dados sensíveis.


Exemplos de dados a NÃO compartilhar:


  • Nomes completos de pacientes ou funcionários.
  • Números de CPF, RG ou outros documentos de identificação.
  • Endereços residenciais e informações de contato.
  • Dados de prontuários médicos ou informações de saúde.
  • Informações financeiras.
  • Qualquer dado que permita a identificação de um indivíduo.
UniFOALetramento em IA

Letramento e treinamento em IA: docentes


  • Limites de Uso: Compreender que IAs generativas são ferramentas de auxílio, não substitutas do raciocínio e da expertise docente.

  • Uso Ético: Utilizar as ferramentas para aprimorar o ensino e a pesquisa, evitando plágio e garantindo a veracidade das informações geradas.

  • Usos Potenciais: Criação de planos de aula, desenvolvimento de materiais didáticos, elaboração de questões e rubricas de avaliação, auxílio na pesquisa e análise de dados.
UniFOALetramento em IA

Letramento e treinamento em IA: discentes


O maior potencial de uso das ferramentas de IA é sua aplicação à aprendizagem - curiosamente, é também uma das mais negligenciadas (senão a mais).


studymode

noteLM

Acessar Chain of Learning
UniFOALetramento em IA

Letramento e treinamento em IA: contexto clínico


Para o uso clínico (e acadêmico), é essencial recapitular os desafios fundamentais:


  • Alucinações: A IA pode gerar informações incorretas com aparência de verdade.
  • Reprodutibilidade: A mesma pergunta pode gerar respostas diferentes.
  • Blackbox: Dificuldade em compreender como a IA chegou a uma conclusão.
  • Referências: As fontes podem ser imprecisas ou inexistentes.
  • Ética e LGPD: Proibição do uso de dados de pacientes em IAs públicas.
UniFOALetramento em IA

Letramento e treinamento em IA: estrutura básica


Conteúdo programático geral


  • Módulo fundamental: O que é IA + estrutura de um prompt + ferramentas básicas.

  • Intermediário: Ferramentas gerais, prompts mais complexos, "prompt engineering".

  • Intermediário +: Ferramentas específicas (adm).

  • Intermediário +: Ferramentas específicas (discentes).

  • Intermediário +: Ferramentas específicas (docentes).

  • Intermediário +: Ferramentas específicas (clínica).

  • Avançado: Criação de ferramentas.

    • Implementação: carga horária fundamental + educação continuada. 1º contato: presencial.

Futuro: produção

UniFOAFuturo

Sistemas Multi-Agentes para Diagnóstico

Diagrama de sistemas de agentes de IA
Link para o artigo
UniFOAFuturo

AMIE: IA Conversacional para Diagnóstico

Gráfico do sistema AMIE
Link para o artigo

Obrigado!

Logo IA e Medicina