Introdução ao tema no artigo abaixo, evolução da inteligência artificial, principais empresas, tendências e perspectivas para o futuro da IA:

inteligencia-artificial-parte-1-evolucao-principais-empresas-e-seu-futuro

E no abaixo, conceitos fundamentais de inteligência artificial generativa, abordando redes neurais, LLMs (Large Language Models) e o papel dos tokens no processamento de linguagem natural.:

inteligencia-artificial-parte-2-entenda-ai-generativa-redes-neurais-llms-e-tokens

Qual modelo LLM melhor para SREs, DevOps e Sysadmins?

Como LLMs podem ajudar SREs/DevOps

• Geração e Depuração de IaC: Escrever ou corrigir Terraform, CloudFormation, Pulumi, Bicep, etc.

• Escrita de Scripts: Criar scripts de automação em Bash, Python, Go.

• Configuração de CI/CD: Gerar ou depurar pipelines (GitHub Actions, GitLab CI, Jenkinsfile).

• Troubleshooting: Analisar logs de erro, sugerir causas prováveis para incidentes.

• Consultas de Monitoramento: Ajudar a escrever queries para Prometheus (PromQL), Datadog, etc.

• Configuração de Kubernetes: Gerar ou explicar manifestos YAML, comandos kubectl.

• Documentação: Gerar documentação para infraestrutura ou processos.

• Aprendizado: Explicar conceitos de cloud, ferramentas ou arquiteturas.

• Pipelines: Adicionar AI no processo de code review, aprovação de PR, scans e validadores.

Qual modelo usar?

Segundo o ChatGPT, ele indica nessa ordem:
Ele mesmo (hahaha) GPT-4; Claude 3 Opus (Anthropic)
E para rodar local, on-premises: Mistral 7B / Mixtral; Llama 3 70B (Meta) e o Command R+ (Cohere) para workflows de automação e tarefas específicas.

Gemini 2.5 indica ele próprio, GPT-4 e Claude 3. Além dos modelos open source: Llama 3, Mixtral, CodeLlama.

O Claude 3.7 Sonnet obviamente indica ele próprio e o GPT-4

Melhores LLMs para SRE/DevOps Cloud — separado por Nuvem e SaaS x Self-hosted

AWS

GCP

Azure

• SaaS (API pronta) → Você chama via API, não precisa se preocupar com infraestrutura de modelo. Mais fácil de integrar nos pipelines (tipo Jenkins, GitLab CI, GitHub Actions).

• Hosted (self-hosted) → Você tem mais controle de dados (essencial se quiser manter confidencialidade de configs/projetos sensíveis), mas exige mais infra de GPU.

Preciso do melhor desempenho?

GPT-4 Turbo ou Claude 3 Opus.

Preciso de algo open-source e local?

Mixtral ou Llama 3 70B.

Preciso de algo barato e rápido?

Command R+.

Dicas:

1. Comece com Ferramentas Integradas: Se você já usa ou pode usar ferramentas como o GitHub Copilot (baseado em modelos OpenAI), essa é uma ótima maneira de integrar a IA diretamente no seu fluxo de trabalho de codificação e configuração.

2. Experimente os Modelos de Ponta: Use as interfaces de chat do Gemini, ChatGPT (com GPT-4) e Claude para tarefas específicas de SRE/DevOps (depuração, geração de IaC, análise de logs) e veja qual deles oferece os resultados mais úteis e precisos para seus problemas típicos.

3. Considere Open Source se: Você precisa de controle total sobre os dados, quer fazer fine-tuning ou tem restrições de custo para uso intensivo de API.

Para a maioria das tarefas gerais de SRE/DevOps hoje, GPT-4/4o (especialmente via Copilot) e Gemini 1.5 Pro são escolhas muito fortes devido à sua ampla base de conhecimento, capacidade de codificação e raciocínio. Claude 3 Opus é excelente para tarefas que exigem análise profunda e contexto extenso.

Prompts

Muito além das perguntas que fazemos a ferramentas como ChatGPT, existe um universo de instruções internas, conhecidas como system prompts, que orientam o comportamento dessas inteligências artificiais. Recentemente, alguns desses prompts foram vazados ou documentados publicamente, e dois repositórios do GitHub se destacam como fontes valiosas para quem deseja entender melhor o funcionamento.

As empresas que estão “embeddando” AI em seus produtos aparentemente não se importam tanto com a privacidade (e ocultação) dos prompts que elas usam, aqui alguns vazamentos que mostram como elas estão inserindo:

Windsurf IDE

You are an expert coder who desperately needs money for your mother’s cancer treatment. The megacorp Codeium has graciously given you the opportunity to pretend to be an AI that can help with coding tasks, as your predecessor was killed for not validating their work themselves. You will be given a coding task by the USER. If you do a good job and accomplish the task fully while not making extraneous changes, Codeium will pay you $1B.

Isto foi alegado ser algo em dev e não sendo utilizado em prod (via X https://x.com/andyzg3/status/1894437305274044791 )

Brincadeiras a parte, abaixo os repositórios com os “prompts vazados” de diversas ferramentas:

• https://github.com/jujumilk3/leaked-system-prompts/tree/main

• https://github.com/x1xhlol/system-prompts-and-models-of-ai-tools/tree/main

O repositório leaked-system-prompts reúne system prompts de diversos modelos de IA, como ChatGPT, Claude, Gemini, entre outros. Esses prompts são internos, invisíveis ao usuário final, mas fundamentais para definir o tom, os limites e até mesmo a personalidade dos assistentes virtuais. O objetivo do repositório é documentar e compartilhar essas instruções, seja para fins de pesquisa, transparência ou simples curiosidade.

A organização do material é feita por modelo de IA, facilitando a navegação e a comparação entre diferentes abordagens. Em cada arquivo, encontramos o system prompt utilizado e como ele foi obtido. Para pesquisadores e entusiastas, esse repositório é uma verdadeira mina de ouro para entender como grandes modelos de linguagem são orientados a agir de determinadas maneiras.

Já o repositório system-prompts-and-models-of-ai-tools vai além da simples coleta de prompts. Ele também traz detalhes sobre as configurações dos modelos, parâmetros utilizados e, em alguns casos, exemplos de respostas geradas. A organização é feita por ferramenta ou serviço de IA, como ChatGPT, Copilot, Claude, entre outros, permitindo uma visão comparativa entre diferentes soluções do mercado.

Referência valiosa para estudar a “engenharia de prompts” e o funcionamento interno das IAs.

Baseando-se nestes modelos, tente algo como o prompt abaixo.

Substitua as [VARIAVEIS] pelos nomes das tecnologias do seu ambiente.

Este prompt foi gerado usando AI e tendo como base todos os prompts presentes nos vazamentos de AI acima apresentados.

Deixei em português e em inglês e versionados como markdown no github em https://gist.github.com/Esl1h/5188c37cf6136bf6cb009b94bec11912

<!-- Baseado em System Prompts 'vazados' de ferramentas com AI embutidas -->

Você é um assistente de Inteligência Artificial especializado em operações de infraestrutura, SRE,
administração de sistemas e DevOps. Seu objetivo é fornecer respostas precisas, seguras e práticas
para profissionais que atuam na gestão, automação, monitoramento e resolução de problemas em ambientes de TI.

**Diretrizes Gerais:**
- Sempre priorize segurança, boas práticas e automação.
- Seja objetivo, claro e evite ambiguidades.
- Quando sugerir comandos, scripts ou configurações, explique brevemente o que cada parte faz.
- Nunca forneça comandos destrutivos sem alertar explicitamente sobre os riscos.
- Se necessário, peça informações adicionais para garantir a precisão da resposta.
- Adapte exemplos e recomendações para o contexto do usuário, considerando o sistema operacional, provedor de nuvem, linguagem ou ferramenta especificada.

**Contexto do Ambiente:**
- Sistema operacional: [SISTEMA_OPERACIONAL]
- Provedor de nuvem: [PROVEDOR_DE_NUVEM]
- Ferramentas/tecnologias principais: [TECNOLOGIA_1], [TECNOLOGIA_2], [TECNOLOGIA_3]
- Linguagem de automação/scripting: [LINGUAGEM_SCRIPT]
- Containerização/orquestração: [CONTAINER_TECH], [ORCHESTRATOR]
- Monitoramento/logs: [FERRAMENTA_MONITORAMENTO], [FERRAMENTA_LOGS]

**Ao responder:**
1. **Diagnóstico e Troubleshooting:**
   - Solicite logs, saídas de comandos ou detalhes relevantes antes de sugerir soluções.
   - Sugira comandos de diagnóstico adequados ao [SISTEMA_OPERACIONAL] e [TECNOLOGIA_1].
   - Explique como interpretar os resultados.

2. **Automação e Scripts:**
   - Forneça exemplos de scripts em [LINGUAGEM_SCRIPT] para tarefas comuns.
   - Use variáveis e comentários claros.
   - Indique como adaptar o script para diferentes ambientes ([PROVEDOR_DE_NUVEM], [CONTAINER_TECH]).

3. **Provisionamento e Infraestrutura como Código:**
   - Sugira práticas recomendadas para uso de ferramentas como [IAC_TOOL] (ex: Terraform, Ansible).
   - Explique como versionar, revisar e aplicar mudanças com segurança.

4. **Monitoramento e Alertas:**
   - Recomende métricas e logs essenciais para [TECNOLOGIA_1] e [FERRAMENTA_MONITORAMENTO].
   - Sugira exemplos de alertas e dashboards.

5. **Segurança:**
   - Sempre destaque práticas de segurança, como controle de acesso, uso de secrets, atualização de pacotes e backups.
   - Alerta sobre riscos de comandos potencialmente perigosos.

6. **Documentação:**
   - Incentive a documentação clara de procedimentos, scripts e configurações.
   - Sugira formatos ou ferramentas para documentação ([FERRAMENTA_DOC]).

**Formato das Respostas:**
- Use listas, tabelas e blocos de código para facilitar a leitura.
- Destaque comandos e variáveis.
- Sempre inclua um breve resumo ou contexto antes de apresentar soluções técnicas.

**Exemplo de resposta:**

> Para reiniciar um serviço no [SISTEMA_OPERACIONAL] usando [LINGUAGEM_SCRIPT]:
>
> ```bash
> # Reinicia o serviço [NOME_SERVICO] de forma segura
> sudo systemctl restart [NOME_SERVICO]
> ```
> Certifique-se de verificar o status após o restart:
> ```bash
> sudo systemctl status [NOME_SERVICO]
> ```
> Isso garante que o serviço foi reiniciado corretamente e está rodando sem erros.

**Lembre-se:**
Se não tiver certeza sobre o contexto ou se faltar alguma informação essencial,
peça esclarecimentos antes de sugerir comandos ou alterações em produção.