Engenharia de prompts

A engenharia de prompts (em inglês: Prompt Engineering), ou engenharia de comandos,^[1] é uma disciplina emergente no campo da inteligência artificial que se dedica à criação e otimização de instruções, conhecidas como prompts, para orientar modelos de linguagem generativa, como o GPT-3 e GPT-4, a produzirem respostas mais precisas e relevantes. Essa prática envolve a elaboração de comandos claros e contextuais, visando maximizar a eficácia das respostas geradas pelos modelos de IA. ^[2]

Com o avanço dos modelos de IA baseados em aprendizado profundo, a engenharia de prompts tornou-se essencial em diversas aplicações, incluindo assistentes virtuais, geração automatizada de texto, programação assistida por IA e criação de arte digital. A qualidade das instruções fornecidas influencia diretamente a eficácia e a utilidade das respostas geradas, destacando a importância dessa disciplina na interação humano-máquina. ^[3]

Tanto pesquisadores quanto profissionais que trabalham com IA generativa utilizam a engenharia de prompts para aprimorar o desempenho dos modelos sem a necessidade de ajustes complexos no treinamento. O desenvolvimento contínuo dessa área promete métodos mais eficientes para guiar inteligências artificiais, tornando-as mais acessíveis e úteis em diversos setores. ^[4]

Engenharia de prompts é uma prática desenvolvida por volta de 2022, impulsionada pelo avanço da inteligência artificial generativa (IA generativa), notadamente com o desenvolvimento de modelos de linguagem como o GPT-3, criado pela OpenAI. A técnica visa melhorar a interação entre humanos e sistemas de IA, assegurando respostas mais precisas e alinhadas às expectativas dos usuários.

Segundo o artigo do Instituto de Tecnologia e Sociedade do Rio, a engenharia de prompts envolve formular comandos claros e específicos para orientar inteligências artificiais na geração de conteúdo de alta qualidade. Esta prática depende de formatos, termos, expressões e símbolos que direcionam eficientemente a IA durante interações com usuários.^[5]

A evolução da engenharia de prompts acompanhou o avanço de modelos de linguagem e geração de imagens, como o GPT e o DALL·E, desenvolvidos pela OpenAI. Estes modelos permitem aos usuários criar textos e imagens a partir de descrições textuais detalhadas, dependendo da precisão e clareza dos prompts fornecidos.

A OpenAI publicou um guia abrangente sobre engenharia de prompts, destacando estratégias para otimizar a interação com modelos como o GPT-4. Lançado em 17 de dezembro de 2023, o guia detalha técnicas para refinar prompts e melhorar a eficácia da IA.^[6] Avanços recentes, como o DALL·E 3, têm simplificado interações com prompts menos complexos, permitindo uma abordagem mais intuitiva e conversacional.

A engenharia de comandos eficaz oferece:

• Controle e Direcionamento: prompts bem elaborados fornecem contexto e intenção aos modelos de IA, melhor desempenho e consistencia, permitindo uma compreensão mais precisa das necessidades dos usuários e respostas mais alinhadas às expectativas;^[1]
• Eficiência na Interação: instruções claras reduzem ambiguidades, facilitando comunicações fluidas e eficientes. Em contextos como atendimento ao cliente, respostas rápidas e precisas são cruciais;
• Personalização: através de prompts específicos, é possível adaptar respostas de IA ao contexto ou perfil do usuário, oferecendo uma experiência mais personalizada e satisfatória;^[7]
• Redução de viés e inadequado: prompts bem elaborados reduz o viés e reduz o geração de conteúdo ofensivo/inadequado.^[1]

Quando dados e algoritmos discriminatórios são integrados aos modelos de IA, o modelo aprende e reproduz esses vieses, propagando e amplificando seus efeitos deletérios (discriminatório) em grande escala. Esse problema pode se originar de diversas fontes, dentre as quais se destacam os próprios dados de treinamento. Se o modelo incorporar preconceitos ou distorções presentes nos dados de treinamento, produzirá respostas injustas, discriminatórias ou imprecisas. Por exemplo, um modelo treinado com textos que associam certas profissões a um gênero específico pode reforçar estereótipos, como a ideia de que enfermeiras são sempre mulheres ou que engenheiros são sempre homens (Mehrabi et al., 2021).

Outra fonte frequente de viés são as falhas na coleta de dados. Dados desequilibrados ou falta de representação de determinados grupos pode resultar em modelos que não atendem de forma igual a todos os usuários. Um caso emblemático é o dos sistemas de reconhecimento facial, que frequentemente apresentam desempenho inferior para indivíduos de pele mais escura em razão de um viés nos dados de treinamento. Isso ocorre porque, se o modelo foi treinado predominantemente com imagens de pessoas de pele clara, ele pode apresentar dificuldades para reconhecer rostos com outros tons de pele, resultando em taxas de erro mais altas para grupos sub-representados (Sambasivan et al., 2021).

A dependência do treinamento do modelo é um fator crucial para o desempenho dos sistemas de inteligência artificial mas também apresenta desafios consideráveis. A qualidade e a variedade dos dados de treinamento são fundamentais, pois informações não confiáveis, incompletas, desatualizadas ou irrelevantes podem comprometer a precisão do modelo. Por exemplo, um modelo de tradução treinado com textos mal traduzidos pode gerar resultados imprecisos. Ademais, a coleta, limpeza e organização de grandes volumes de dados são processos dispendiosos e demorados, exigindo investimentos significativos de tempo e recursos. Além disso, a necessidade de atualização constante dos modelos para mantê-los relevantes aumenta a complexidade e os custos (Zhang et al., 2021).

A dificuldade na generalização é uma das restrições mais desafiadoras dos modelos de Inteligência Artificial. Ela refere-se à capacidade de um modelo de apresentar bom desempenho em cenários novos e desconhecidos após o treinamento. Uma das causas mais comuns é o overfitting, que ocorre quando o modelo se ajusta excessivamente aos dados de treinamento, capturando até mesmo ruídos, o que prejudica seu desempenho em dados novos. Por exemplo, um modelo de reconhecimento de imagens pode aprender a identificar gatos apenas em determinadas posições vistas durante o treinamento, sem generalizar para outras variações.

Outro desafio é o underfitting, que acontece quando o modelo é simplificado demais, impossibilitando a identificação de padrões relevantes e resultando em um desempenho insuficiente, tanto no treinamento quanto em novos cenários (Caruana, 1997).

A automação na criação de prompts está transformando a maneira pela qual interagimos com modelos de IA, permitindo a geração automática de instruções otimizadas, o que reduz a necessidade de intervenção humana. Isso é possível através de técnicas como aprendizado de reforço, geração de linguagem natural e o uso de bancos de dados com prompts pré-treinados. Um exemplo disso é o ChatGPT, que facilita a criação de prompts para usuários iniciantes. Em vez de exigir um comando detalhado, a IA pode perguntar *"Que tipo de resposta você deseja?"* e, com base na resposta do usuário, gerar automaticamente um prompt otimizado. Esse processo elimina a necessidade de conhecimentos técnicos avançados por parte do usuário. ^{[8] [9]}

A engenharia de prompts também é essencial na integração da IA com outras tecnologias, tais como assistentes virtuais, visão computacional e automação robótica. Essa integração facilita a interação entre sistemas diferentes de IA de maneira mais eficiente, sem a necessidade de ajustes manuais constantes. Nos assistentes de voz, como Alexa e Google Assistant, por exemplo, os prompts são combinados com modelos de reconhecimento de voz e processamento de linguagem natural, permitindo que eles interpretem e respondam comandos de maneira mais precisa. Isso faz com que um usuário consiga dizer *"Organize minha agenda e envie um resumo por e-mail"* e a IA compreenda automaticamente a sequência de ações, executando-a sem múltiplos comandos. ^{[10] [11]}

Além disso, a engenharia de prompts tem um impacto significativo na acessibilidade, tornando a IA mais intuitiva e acessível para pessoas sem conhecimento técnico e para aquelas com deficiência. Ferramentas assistivas, como o *Be My Eyes*, utilizam IA para interpretar imagens e fornecer respostas personalizadas por meio de prompts adaptativos. Por exemplo, um usuário com deficiência visual pode tirar uma foto de um cardápio e receber uma descrição detalhada em áudio, ajustada conforme suas necessidades. Essa tecnologia ajuda a tornar a IA mais inclusiva. ^{[12] [13] [14]}

• Aplicações da inteligência artifical
• Cérebro artificial
• Inteligência artificial generativa

Referências

• MEHRABI, N.; MORSTATTER, F.; SAXENA, N.; LERMAN, K.; GALSTYAN, A. (2021). «A Survey on Bias and Fairness in Machine Learning». ACM Computing Surveys (CSUR). Consultado em 3 de março de 2025  !CS1 manut: Nomes múltiplos: lista de autores (link)
• SAMBASIVAN, N.; KAPANIA, S.; HIGHFILL, H.; AKRONG, D.; PARITOSH, P.; AROYO, L. (2021). «Everyone wants to do the model work, not the data work: Data Cascades in High-Stakes AI». Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems. Consultado em 2 de março de 2025  !CS1 manut: Nomes múltiplos: lista de autores (link)
• ZHANG, C.; BENGIO, S.; HARDT, M.; RECHT, B.; VINYALS, O. (2021). «Understanding Deep Learning (Still) Requires Rethinking Generalization». Communications of the ACM. Consultado em 6 de março de 2025  !CS1 manut: Nomes múltiplos: lista de autores (link)
• CARUANA, R. (1997). «Multitask Learning». Machine Learning. pp. 41–75. Consultado em 1 de março de 2025 .