[ad_1]
Utilizar una inteligencia artificial como pueda ser ChatGPT es tan sencillo como ir a la web y escribir una pregunta. Pero, algo que no muchos saben, es que puedes crearte tu propia inteligencia artificial de manera local. Los compañeros de StorageReview han creado su propio chatbot con inteligencia artificial usando un NAS complementado con una NVIDIA RTX A4000 para hacer funcionar ChatGPT de manera local.
Esto que puede parecer poco interesante, realmente tiene bastante utilidad. Permite en el entorno empresarial el análisis y la optimización de datos y rendimiento de manera privada. Al final, no podemos darle ciertos datos o información a servicios como ChatGPT.
Una IA dentro de una botella
Para generar esta inteligencia artificial en un servidor local, los compañeros de StorageReview han usado el NAS QNAP-TS-h1290FX. Hablamos de una solución profesional de alto rendimiento que se basa en un procesador AMD EPYC y 256 GB de RAM, así como 12 ranuras NVMe.
La elección del NAS no ha sido casual. El primer motivo de la elección es que permite agregar una tarjeta gráfica. Además, este es compatible con el programa de hipervisor QNAP Virtualization Station que permite crear máquinas virtuales. Aprovechando la capacidad de instalar una GPU, han integrado una NVIDIA RTX A4000 de arquitectura Ampere, que es la gráfica profesional más potente de solo una ranura PCIe.
Han llenado la máquina de unidades de almacenamiento de alta capacidad y con la RTX instalada han hecho funcionar Chat with RTX. La solución IA de NVIDIA permite configurar la experiencia de ChatGPT en cualquier sistema con una gráfica de la compañía. Cuidado, porque la GPU es necesario que tenga Tensor Cores, de otro modo no funcionará.
Así han creado un asistente para análisis y optimización de datos y rendimiento desconectado de internet. Debes saber que supone un riesgo a la seguridad y privacidad darle estos datos a una IA abierta como ChatGPT. Son varios los casos que se han dado de obtención de datos confidenciales gracias a la ingeniería de prompts y el engaño a esta «inteligencia» artificial.
Implementar esta solución, además, permite que los miembros de una misma red accedan para trabajar con ella. Puede ser muy útil para empresas de ciberseguridad, ya que puede permitir a todos los miembros acceder a esta herramienta IA y desarrollar mejores soluciones.
¿Puedo replicarlo en mi casa?
La verdad es que sí, puedes hacerlo en casa, pero igual el resultado dista mucho del obtenido por estos profesionales. Al final, ten en cuenta que cuentan con un NAS de alta potencia y rendimiento para entornos profesionales que se basa en un AMD EPYC y cuenta con 256 GB de RAM.
Si quieres intentarlo, solamente debes cumplir unos requisitos bastante simples. En primer lugar, necesitas una NVIDIA RTX 30 Series o 40 Series con al menos 8 GB de VRAM. Adicionalmente, necesitas de al menos 16 GB de RAM y Windows 11. Destacar que se requieren de 35 GB de espacio libre en nuestra unidad de almacenamiento.
Debes saber que cualquiera puede descargar la herramienta NVIDIA «Chat with RTX» desde la página oficial. Actualmente, la aplicación está en la fase v0.2, por lo que está en una versión muy inicial. Empezar a realizar pruebas y ver que nos puede ofrecer es algo entretenido y educativo.
The post NAS con 12 SSD NVMe + gráfica NVIDIA RTX = ChatGPT solo para ti appeared first on HardZone.
[ad_2]