How to Serve a Multi-User AI Agent with FastAPI and Streamlit

Saudações a toda a comunidade de tecnologia e em especial aos membros ativos do fórum **webmastersmz.com**!

Como especialista na área, trago-vos uma análise técnica sobre este anúncio crucial. A chegada do **OWASP Cornucopia v3.4** é um marco de extrema relevância para todos nós que desenvolvemos, administramos e protegemos sistemas digitais em Moçambique.

### Análise Técnica dos Pontos Principais:

1. **O que é o OWASP Cornucopia?**
   Para quem ainda não utiliza no seu fluxo de trabalho, o Cornucopia é uma ferramenta fenomenal baseada em gamificação (utilizando o conceito de cartas) que ajuda as equipas de desenvolvimento a realizar a **Modelagem de Ameaças (Threat Modeling)** de forma ágil e colaborativa. Ele ajuda-nos a pensar como um atacante antes mesmo de escrevermos a primeira linha de código.

2. **Mapeamento de Aplicações Web Tradicionais:**
   A versão 3.4 refina a identificação de falhas clássicas (como as do OWASP Top 10: SQL Injection, XSS, falhas de autenticação). No nosso contexto local, onde muitos sistemas governamentais, portais de e-commerce e plataformas de serviços correm em arquiteturas web tradicionais, esta atualização garante que continuemos a mitigar riscos com base nas táticas de ataque mais recentes.

3. **A Grande Novidade: Arquiteturas de Inteligência Artificial (IA):**
   O grande salto desta versão é a expansão para o ecossistema de IA. Com a crescente integração de LLMs (Grandes Modelos de Linguagem) e APIs de inteligência artificial nos nossos sistemas locais, os vetores de ataque mudaram. Agora precisamos de nos preocupar com *Prompt Injection*, envenenamento de dados de treino e fuga de dados sensíveis através de modelos de IA. O Cornucopia v3.4 traz cartas e dinâmicas específicas para mapear estas novas superfícies de ataque.

---

### Vamos ao Debate no webmastersmz.com!

A segurança da informação não pode ser uma prioridade secundária nos nossos projetos em Moçambique. Por isso, gostaria de lançar o debate aqui no nosso fórum:

* **Como é que vocês têm feito a modelagem de ameaças nos vossos projetos atuais?** Utilizam alguma ferramenta metodológica ou ainda confiam apenas nos testes de intrusão (Pentests) no final do desenvolvimento?
* **Quem aqui já está a integrar APIs de Inteligência Artificial (como OpenAI, Claude ou modelos locais) nos seus sistemas?** Como estão a garantir que estas integrações não expõem dados dos vossos clientes?

Partilhem as vossas experiências e opiniões nos comentários abaixo. Vamos enriquecer a nossa comunidade!

---

Para garantir que os vossos projetos e fóruns rodam sem falhas, convido-vos a conhecer as soluções de alojamento de alta performance da AplicHost em https://aplichost.com.

                     How to Serve a Multi-User AI Agent with FastAPI and Streamlit
               



Tópico:
                     How to Serve a Multi-User AI Agent with FastAPI and Streamlit
               
Categoria: Tutoriais | FreeCodeCamp Premium
Idioma Principal: Português (Conteúdo de Tecnologia)

Conteúdo do Tutorial / Guia Passo a Passo:
-------------------------------------------------------------------------
In this tutorial, I'll show you how to serve a multi-user local AI agent as a REST API using FastAPI, then add a lightweight Streamlit UI on top.

Instead of interacting with the agent through a terminal, we'll expose it over HTTP so multiple users can access it through a chat-style frontend interface. Each session will maintain its own conversation history and streamed responses.

The local AI agent will be built with LangChain v1, Ollama, Qwen, and Python, running on your own machine and ready to plug into larger applications without any per-call model API charges.

Table of Contents

• Background

• What is FastAPI?

• What is Streamlit?

• What Is Multi-User Support?

• Motivation and Architecture

• Step 1: Install Ollama and Pull the Model

• Step 2: Install Python Dependencies

• Step 3: Build the agent and API layer with FastAPI

• Step 4: Build Streamlit UI

• Step 5: Run the backend app

• Step 6: Run the frontend app

• Sample Output

• What to Improve Before Production

• Conclusion

Background

Many AI agents start out as simple Python scripts that run in a command-line terminal. You type a message, the agent responds, and everything happens in a single local session.

That setup is great for development and testing, but it becomes limiting when you want other people or applications to interact with the agent.

To make an AI agent truly useful, we need to expose it through an interface that other users can access. A REST API is a practical way to do that.

To follow this tutorial, you'll need Ollama installed on your machine. The tutorial works on macOS, Windows, and Linux. I'm using a MacBook Pro with 32 GB of RAM, but you can run this on a lower-memory machine by choosing a smaller Qwen model from Ollama.

What is FastAPI?

FastAPI is a Python web framework for building APIs. In this tutorial, it gives us a simple way to expose the agent over HTTP so other apps, scripts, or services can call it.

FastAPI is a good fit for AI apps because it gives us a clean boundary around the system. We define the request and response models in Python, FastAPI validates them automatically, and it turns HTTP requests into Python objects and Python objects back into JSON. It also generates interactive API docs for free and supports async endpoints, which is useful for AI workloads that may take longer to respond.

What is Streamlit?

Streamlit is a Python framework for building lightweight web interfaces with minimal frontend work. It lets us create interactive browser-based apps using normal Python code instead of HTML, CSS, and JavaScript.

In this tutorial, Streamlit sits on top of the FastAPI backend as a thin client. FastAPI exposes the AI agent over HTTP, and Streamlit gives us a simple UI for calling that API and displaying the results. That separation keeps the backend reusable while still making the agent easy to use in the browser.

What Is Multi-User Support?

Multi-user support means the AI agent can handle requests from more than one user while keeping each user's session separate.

For example, User 1 asks the agent one question and User 2 asks a different question. The agent should remember the correct context for each user independently. Without multi-user support, all users may end up sharing the same conversation state, which can lead to mixed responses, incorrect memory, or overwritten co

... [O tutorial continua no link abaixo] ...