La semana pasada se liberó DeepSeek como Open Source, un modelo de lenguaje bastante eficiente que pone en riesgo a empresas como OpenAI y otros. Este model llego a cambiar las reglas del juego ya que ahora cualquiera puede tener el modelo corriendo en sus propios servidores, hacer fine-tunning y utilizarlo desde sus propias aplicaciones. En este tutorial te voy a mostrar como instalar DeepSeek en Amazon AWS paso a paso y como usar el API rest.

Asigna un nombre a tu instancia, yo usé 

Deep Learning Base OSS Nvidia Driver GPU AMI

, esta configuración incluye los drivers de Nvidia instalados y listos para usar.

Selecciona el tipo de instancia, estoy usando 

 si prefieres algo más económico, aunque será un poco más lento.

 existente para iniciar sesión por SSH. Si no tienes llaves, deberás crear una, simplemente sigue las instrucciones al hacer clic en el botón de crear.

En la sección de red, recomiendo permitir tráfico solo desde

, de esta forma solo tú podrás acceder a la instancia. Si tu IP cambia, puedes actualizarla fácilmente en AWS.

Para el almacenamiento, elegí 100 GB, lo cual debería ser suficiente. Sin embargo, si necesitas más espacio, puedes aumentar el tamaño del disco más adelante.

Cuando todo esté listo, haz clic en el botón amarillo 

 a la derecha para iniciar tu nueva instancia.

Una vez que tu instancia este corriendo necesitas conectarte vía SSH, abre una terminal y conéctate de la siguiente manera:

$ ssh  -i ~/.ssh/[YOUR-AWS-KEYS].cer ubuntu@[YOUR-INSTANCE-IP]

Asegúrate de usar el certificado adecuado así como la IP de la instancia que acabas de crear.

Para ejecutar modelos LLM, necesitamos un cliente u orquestador que cargue el modelo y permita interactuar con él. Hay varias opciones disponibles, pero una de las más populares es 

Luego, instalemos Ollama con este comando:

$ curl -fsSL https://ollama.com/install.sh | sh

Ahora que tenemos Ollama instalado, podemos cargar DeepSeek y ejecutarlo. Es muy sencillo, solo ejecuta el siguiente comando:

, pero puedes reemplazarla con la que necesites. Este comando descargará el modelo, que pesa aproximadamente 9 GB, así que ten paciencia.

Después de un tiempo, el modelo estará listo para usarse. Mi primera prueba será el famoso ejercicio de encontrar las “R” en una palabra. Todos los modelos fallan en esta prueba, veamos cómo lo hace DeepSeek.

Y falló... aunque en algún momento estuvo cerca, el resultado final perdió una "R". Es fascinante cómo muestra el proceso de razonamiento, es realmente impresionante.

En este punto, tenemos el modelo funcionando en la terminal, pero sería genial poder llamarlo mediante una API REST. ¡Afortunadamente, Ollama permite hacerlo!

Actualmente, el modelo está ejecutándose y Ollama crea un servidor HTTP local con una API REST que podemos usar, pero necesitamos configurar NGinx para habilitar el acceso mediante un proxy inverso.

Instalar NGinx es muy sencillo, solo ejecuta el comando anterior. Ahora, asegurémonos de permitir tráfico HTTP en el firewall:

Después, configuraremos el proxy inverso actualizando la configuración predeterminada de NGinx:

$ sudo vim /etc/nginx/sites-available/default

 que intenta servir archivos estáticos y copia-pega lo siguiente dentro del bloque 


# Configuración original (comentar o eliminar para usar la nueva)
#location / {
#   try_files $uri $uri/ =404;
#}

location / {
    proxy_pass http://localhost:11434;
    proxy_set_header Host localhost:11434;

    # Manejar solicitudes preflight de CORS
    if ($request_method = OPTIONS) {
        add_header Access-Control-Allow-Origin *;
        add_header Access-Control-Allow-Methods *;
        add_header Access-Control-Allow-Headers "Content-Type, Authorization";
        add_header Access-Control-Max-Age 3600;
        return 200;
    }

    # Configurar encabezados CORS para otras respuestas
    add_header Access-Control-Allow-Origin *;
    add_header Access-Control-Allow-Methods *;
    add_header Access-Control-Allow-Headers "Content-Type, Authorization";

    proxy_set_header Origin "";
    proxy_set_header Referer "";
}



Por último, abre el puerto HTTP para tu IP (o cualquier servidor autorizado). Ve a la consola de AWS, haz clic en los detalles de la instancia (en mi caso 

, agrega una nueva regla, establece el puerto en 

Abre tu navegador y ve a la dirección IP de tu instancia. Deberías ver un mensaje indicando que Ollama está ejecutándose.

Puedes llamar a la API desde tu computadora local. Por ejemplo, abre la terminal y ejecuta este comando:

curl http://[TU-IP-DE-INSTANCIA]/api/generate -m 600 -d '{
  "model": "deepseek-r1:14b",
  "prompt": "Why is the sky blue?"
}'



La primera vez tomará un tiempo ya que necesita cargar el modelo. El parámetro 

 establece un tiempo de espera de 10 minutos, y 

¡Y eso es todo! Ahora puedes llamar al API REST desde tu instancia en AWS. Desde aquí, puedes comenzar a desarrollar aplicaciones y software que usen este modelo LLM.

Instalando DeepSeek en AWS EC2 paso a paso para principiantes

Primero que nada es necesario tener tus dos ambientes configurados correctamente, en la documentación puedes ver una guia paso a paso de como hacerlo: 

https://devcenter.heroku.com/articles/multiple-environments

Una vez que tienes tus dos ambientes corriendo satisfactoriamente necesitas instalar el plugin pgbackups en ambos ambientes.

$ heroku addons:add pgbackups --remote staging
$ heroku addons:add pgbackups --remote production


Una vez que tienes el plugin en ambos ambientes necesitas hacer un backup de producción para luego llevarlo a tu ambiente de pruebas:

$ heroku pgbackups:capture --remote production


Una vez que tienes listo tu backup ejecutas el siguiente comando:

$ heroku pgbackups:restore DATABASE_URL `heroku pgbackups:url --remote production` --remote staging


Al ejecutarlo te saldrá un mensaje de alerta donde te dirá que tu ambiente de pruebas va a ser sobre-escrito, te pide confirmar escribiendo el nombre de tu aplicación de pruebas. Una vez que confirmar se realiza la restauración.

Es importante mencionar que se perderá toda la información de tu base de datos de pruebas porque será sobre-escrita por la base de datos de producción.

Como crear un backup de producción a staging en Heroku

Aparentemente al escribir código Open Source y publicarlo gratuitamente, autorizando el uso del mismo para distribuirlo y modificarlo no ganamos absolutamente nada, pero es esto totalmente cierto? que ganamos entonces al crear aplicaciones de las cuales no nos pagarán nada? A continuación cito algunos de los beneficios que en mi opinión ganamos.

, al participar activamente en algún proyecto aprendemos muchas cosas sobre todo a colaborar con otros desarrolladores y ganamos mucha experiencia, sin mencionar que nuestro código será juzgado por toda una comunidad que nos podrán corregir y ayudar a mejorar.

, para mi esto es más importante que el dinero ya que puedes conseguir muy buenas oportunidades por el simple hecho de tener una buena reputación, ser reconocido dentro de una comunidad no tiene precio.

, estar relacionado y tener buenas referencias es de mucho beneficio ya que en algún momento podemos contar con ayuda de gente que tiene la misma pasión que tu.

! si te gusta la programación sabras a lo que me refiero, siempre es divertido desarrollar alguna aplicación que en tu trabajo jamas podrías, por ejemplo un juego (Si es que no eres desarrollador de videojuegos), algo con las APIs más recientes! experimentar con cosas interesantes, todo esto nos da cierto entretenimento y emoción.

, tener tus repositorios en algún servicio como GitHub es muy bueno, no hay mejor manera de demostrar tu talento que exponiendo tus habilidades y buenas prácticas al codificar, tener una cuenta en GitHub personalmente me ha traido muchas oportunidades con clientes al rededor del mundo.

Hace ya dos años que me inicie como consultor independiente y gracias a algunos proyectos Open Source que tengo en GitHub y mi blog sobre JavaScript he logrado conseguir muchas buenas oportunidades, con clientes en USA, Suiza, España, Portugal, Sudamerica, México, etc. Lo interesante es que al ver mi trabajo no dudan en poner en mis manos sus proyectos y desarrollos con JavaScript, ExtJS o Sencha Touch.

Mi consejo es que inicies a desarrollar software Open Source hoy mismo, realmente que es muy divertido y ademas se aprende mucho de eso, que otras personas encuentren tu software valioso de verdad que no tiene precio.

Tienes algunos otros motivos? compártelos en los comentarios!

The Blog

Latest Posts

Instalando DeepSeek en AWS EC2 paso a paso para principiantes

Como crear un backup de producción a staging en Heroku

¿Por que hacer Open Source?

Connect with me!

Tags

You can follow me in these other places too.

I'm also on YouTube