What You See Is All There Is: o chatGPT vê o que você pede para ele vê
"What You See Is All There Is" é uma frase de Daneil Kahneman. Basicamente, Kahneman queria dizer que nós humanos vemos o que queremos ver. o chatGPT sofre de algo parecido. Se o chatGPT tivesse uma visão do mundo, e dissesse para ele que tem um leão do outro lado da janela: ele iria acreditar. Se dissesse que existem três maçãs na mesa, e conte eles, ele vai contar!
Um exemplo prático: pedi para ele fazer uma regressão linear passando os pontos, ele fez. O valor do alfa estava errado. Algumas pessoas estão conectando o chatGPT com ferramentas mais poderosas depois de observarem esse fenômeno, esse é o caminho!
Talvez isso ocorra devido ao seu design, e talvez isso explica em parte suas alucinações. Essa informação é importante se for usar o chatGPT no seu site, para seus propósitos, como eu tenho feito.
Esse comportamento tem se repetido: você pede algo para ele, mas você não passa as informações. Geralmente, eu faço por acidente quando estou programando. Contudo, ele responde assim mesmo. Nesse caso, geralmente, inventa informações. Claro, você pode orientar ele a não responder.
Para sermos justos, vou mostrar alguns exemplos, mas usando a API. Parece que a API foi treinada para obedecer mais do que o chatGPT público, o que faz sentindo: a API foi crianda para que você possa usar o chatGPT para seus propósitos. Eu não documentei todos os casos, e terá de confiar em mim, mas vou tentar replicar alguns.
chatGPT bot para auxiliar na revisão da literatura
Saiba mais em: https://www.jovempesquisador.com/post/academicai-novo-formato-para-te-ajudar-na-revis%C3%A3o-da-literatura
O bot espera referências, não uma referência.
Se colocar somente uma, ele vai criar o restante. Em alguns casos, você consegue impedir que ele faça isso com comandos adicionais, em outros não. Nesse caso, não funcionou os comandos adicionais, vou continuar testando.
Entrada
“Startups na área de saúde é crucial para reduzir custos”
Achei interessante essa passagem por destacar a importância da inovação na área de saúde.
Pires JG. Alguns insights em Startups um novo paradigma para a tríplice aliança ciência, tecnologia e inovação: a novel paradigm for understanding the triple alliance of Science, Technology and Innovation. Rev. G&S [Internet]. 1º de fevereiro de 2020 [citado 20º de abril de 2023];11(1):38-54. Disponível em: https://periodicos.unb.br/index.php/rgs/article/view/28626
Saída
A área de saúde apresenta desafios complexos e a inovação é crucial para enfrentá-los. Nesse sentido, as startups têm um papel importante para encontrar soluções criativas que podem reduzir custos e melhorar a eficiência dos serviços de saúde. Segundo Pires (2020), o surgimento de startups na área da saúde é considerado um novo paradigma para a tríplice aliança ciência, tecnologia e inovação, contribuindo para a melhoria do setor e para a construção de uma sociedade mais saudável.
Além disso, outra pesquisa destaca a importância da saúde digital para melhorar o acesso aos serviços de saúde. Segundo Riekert e colaboradores (2020), a saúde digital é um campo emergente que usa tecnologias para otimizar a saúde e o bem-estar. Isso envolve a coleta de dados, a análise de informações e a oferta de serviços de saúde personalizados. A saúde digital pode contribuir para uma maior eficiência na prestação de serviços, reduzindo os custos e aumentando a acessibilidade para a população.
Entretanto, é importante ressaltar que a implementação da saúde digital apresenta desafios, como a segurança dos dados e a interoperabilidade entre sistemas de informação em saúde. Segundo Lee e colaboradores (2019), a falta de padrões e protocolos comuns para a comunicação entre sistemas e dispositivos pode dificultar a integração da saúde digital com a prática clínica. Nesse sentido, é necessário investir em políticas públicas e na formação de profissionais capacitados para lidar com as novas tecnologias.
Portanto, investir em startups na área da saúde e promover a saúde digital são estratégias importantes para enfrentar os desafios do setor e melhorar a qualidade dos serviços oferecidos à população. No entanto, é necessário ter em mente as dificuldades que surgem na implementação dessas tecnologias e trabalhar em soluções que abordem os problemas que possam surgir.
REFERÊNCIAS:
PIRES, J. G. Alguns insights em Startups um novo paradigma para a tríplice aliança ciência, tecnologia e inovação: a novel paradigm for understanding the triple alliance of Science, Technology and Innovation. Rev. G&S, v. 11, n. 1, p. 38-54, 2020. Disponível em: https://periodicos.unb.br/index.php/rgs/article/view/28626. Acesso em: 20 de abril de 2023.
RIEKERT, J.; O’BRIEN, J.; LADWINIEC, A. The emerging importance and relevance of digital health. Current Opinion in Anaesthesiology, v. 33, n. 6, p. 726–732, 2020. Disponível em: https://doi.org/10.1097/ACO.0000000000000900. Acesso em: 20 de abril de 2023.
LEE, J. et al. Trends in health information technology interoperability in the United States from the vendor perspective: 2008-2015. Journal of the American Medical Informatics Association, v. 26, n. 4, p. 297-303, 2019. Disponível em: https://doi.org/10.1093/jamia/ocy180. Acesso em: 20 de abril de 2023.
Ele fez o que pediu para ser feito. Exemplos de sucesso aqui, onde se passa pelo menos três referências, que seria o caso idealizado e testado: https://www.jovempesquisador.com/post/academicai-novo-formato-para-te-ajudar-na-revis%C3%A3o-da-literatura
Nota. ele usou a referência dada, mas inventou o restante.
Links inventados
Em outro cenário, que tive mais dificuldades de replicar agora, estava criando um sistema de recomendações de cursos, meus cursos. Pedi para ele recomendar e passar o link do curso: detalhe, esqueci de colocar os links. Ele recomendou o curso certo, mas inventou o link. Quando coloquei os links, deu tudo certo. Pedi para ele somente recomendar meus cursos, e funcionou.
Nota final
Os desenvolvedores na openAI estão lutando para evitar que ele gere conteúdos fora das regras deles, para proteger a imagem da organização. Nem eles conseguem domar a fera!
Para usar o chatGPT, precisa-se de testes, e muitos testes. Uma vez que acerta os comandos, ele se comporta bem. Uma vez ou outro, pode falar algo fora do esperado, mas nada muito sério nos sistemas que criei.
Existem duas formas de ver isso: o chat é tão inteligente que "entende" que vai melhorar depois, ou, ele é incompetente. Curiosamente, humanos preferem a última opção, que me parece errada.
Comments