Eduardo Rivadeneira
Riva4GPT
Home » Riva4GPT

El proyecto Riva4GPT es un proyecto que surge después de mi ultimo diplomado de inteligencia artificial. El objetivo es tener una aplicacion que sirva para correr modelos de inteligencia artificial LLMs en una computadora, utilizando tecnología open source y desarrollando con Python.

Riva4Gpt web-ui

Riva4gpt (r4gpt) es una aplicacion con una Interfase de escritorio para correr Modelos de inteligencia artificial (LLM's) de forma local en computadoras modernas, no necesitas tarjeta grafica o hardware especializado para poder correr los modelos basicos

Con esta app podras ejecutar un Modelo de Inteligencia artificial (LLM) en formato chatbot de forma local sin sin esta conectado a internet o pagar rentas mensuales por su uso y sobre todo no mandaras nada informacion a terceros, ya que el modelo esta en tu computadora y no se comparte con terceros

Riva4Gpt puede utilizar modelos que se descargan de huggingface.co, esto modelos son publicos y seleccionamos los optimos en desempeño y resultados.

Cuando inicias la aplicacion por primera ves, requiere acceso a internet para descargar los modelos, el Riva4gpt web-ui es el motor para correr los modelos de forma local, proporcionamos solo el software para correr modelos pre entrenados por terceros

  • Riva4GPT
  • Descarga la version 1.02 de OneDrive en el link: https://1drv.ms/f/c/86808964c76104c3/EoBCOAcB7KZGjOVhYVk3O1kBIq37yrwd6O2Xc-GYwr2w8Q?e=T4LtZL
  • La version 1.02 Cuenta con 3 modelos para descargarlos, los tres modelos se descargan dentro de la pp directo de Hugging Face y son modelos publicos, la app riva4gpt (r4gpt) es un motor para correr estos modelos en tu computadora de forma local para descargar los modelos requieres una conexion a internet, , despues de desacargar algun modelo correran 100% en tu equipo de computo
  • Esta aplicacion esta diseñada para aprender los conceptos basicos de inteligencia atificial en los LLMs y la utilizo para dar presentaciones de como funciona un llm
  • Existen muchos Modelos de LLMs en en internet, seleccionamos de forma segura los existentes en Hugging Face, estos modelos son creados por las empresas que los publican en este sitio.
  • Se seleccionaron 3 modelos por su tamaño y su eficiencia, estos modelo pueden correr casi en cualquier computadora moderna, pero el motor puede correr cualquier modelo GGUF
  • La aplicacion esta basada en LLAMA CPP con su modelo open source y es capas de correr diferentes tamaños de modelos que sean compatibles con GGUF
  • Los requisitos minimos de la computadora para modelos 1b son:
    1. Procesador intel de 13va generacion core i5/ Ryzen equivalente
    2. 8 Gb de Ram
    3. Disco duro NVME
    Requisitos para modelos de 8b a 12b
    1. Procesador intel 13va gen Core i7 /Ryzen equivalente
    2. 16/32 GB de ram
    3. Disco NVME
    Requisitos para correr los modelos en tarjetas graficas
    1. Tarjeta NVIDIA RTX 8 GB Nvram (modelos 1-8gb)
    2. Tarjeta NVIDIA RTX 16gb Nvram (modelos 12-16gb)
Version 1.02

informacion:

Descarga de este link riva4gpt

descarga la version 1.02 de one drive en el link: https://1drv.ms/f/c/86808964c76104c3/EoBCOAcB7KZGjOVhYVk3O1kBIq37yrwd6O2Xc-GYwr2w8Q?e=T4LtZL

  • Riva4GPT ver 1.02
  • Interfase de escritorio para correr Modelos de inteligencia artificial (LLM) de forma local en computadoras modernas, no necesitas tarjeta grafica o algo especial para poder correr al aplicacion en tu equipo
  • Esta version cuenta con 3 modelos pre seleccionados, para correr en computadoras con el hardware recomendado de forma rapida y eficiente.
  • Se agrega la opcion de ejecutar en el navegador por default, al iniciar el agente se abre el link para conectarte de forma local