Cómo lanzamos nuestro propio modelo de chatbot con un servidor Hetzner económico

Introducción

En estos días, configurar un Chatbot dedicado Un servidor privado resulta más atractivo que nunca, tanto por razones económicas como de seguridad. Los grandes servicios en la nube como AWS o Google Cloud son excelentes, pero sus costes pueden ser prohibitivos, sobre todo para proyectos pequeños o de prueba.
Nos decidimos por un servidor barato de Hetzner Analicemos nuestra experiencia configurando un chatbot. En este artículo, explicaremos en detalle los pasos que seguimos, desde la selección del servidor hasta la implementación final, los problemas que encontramos y cómo los resolvimos.

¿Por qué elegimos a Hetzner?

1. Costo asequible

Hetzner es uno de los proveedores europeos más económicos en cuanto a precio. Por ejemplo, un servidor con 4 núcleos de CPU y 8 GB de RAM cuesta alrededor de [precio omitido]. 6 euros al mes Cuesta dinero.

2. Calidad y sostenibilidad

Los centros de datos alemanes y finlandeses de Hetzner son muy estables y rápidos, y tienen una latencia aceptable incluso para el tráfico de usuarios iraníes.

3. Diversidad de hardware

Desde pequeños VPS hasta servidores dedicados con potentes GPU, puedes elegir según tus necesidades y presupuesto.

Pasos para configurar un chatbot en Hetzner

Paso 1: Elija un sistema operativo

Instalamos Ubuntu 22.04 LTS. Esta versión es ligera y ofrece el mayor soporte para herramientas relacionadas con la IA.

Paso 2: Instalar herramientas básicas

Tras iniciar sesión en el servidor, deberá instalar Python y las herramientas necesarias:

sudo apt update && sudo apt upgrade -y
sudo apt install python3-pip git -y
pip install transformers accelerate fastapi uvicorn

from transformers import AutoModelForCausalLM, AutoTokenizer
from fastapi import FastAPI

app = FastAPI()

tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-medium")
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-medium")

@app.get("/chat")
def chat(msg: str):
inputs = tokenizer.encode(msg + tokenizer.eos_token, return_tensors="pt")
outputs = model.generate(inputs, max_length=1000, pad_token_id=tokenizer.eos_token_id)
reply = tokenizer.decode(outputs[:, inputs.shape[-1]:][0], skip_special_tokens=True)
return {"reply": reply}

uvicorn main:app --host 0.0.0.0 --port 8000

curl "http://your-server-ip:8000/chat?msg=سلام"