Tu IA generativa para PC compatible con GeForce RTX 30 y 40 ya está aquí

Los procesadores gráficos se sienten cómodos con la inteligencia artificial (IA). Muy cómoda. Más que CPU. La razón es que estos algoritmos se benefician de una arquitectura que priorizar el paralelismo masivo, que es precisamente lo que nos ofrecen las GPU, pero no las CPU. En concreto, los chips de la familia GeForce RTX de NVIDIA incorporan varios subsistemas específicos que, precisamente, buscan aumentar su rendimiento a la hora de ejecutar procesos de IA.

Los núcleos tensoriales son unidades funcionales de hardware especializadas en resolver operaciones matriciales que soportan una alta paralelización. De hecho, han sido diseñados expresamente para ejecutar de manera eficiente las operaciones requeridas por los algoritmos de aprendizaje profundo y la computación de alto rendimiento. Además, juegan un papel esencial en la tecnología DLSS (Súper muestreo de aprendizaje profundo), por lo que tienen un papel claro en la reconstrucción de imágenes utilizando DLSS 3.

El movimiento que acaba de hacer NVIDIA tiene todo el sentido del mundo si tenemos en cuenta lo que acabamos de repasar. Si sus últimas GPU están preparadas para ejecutar algoritmos de IA con notable suficiencia, ¿por qué no aprovecharlos más allá de los juegos? Esto es exactamente lo que nos ofrece esta empresa a partir de hoy. Y los usuarios de las GeForce RTX 30 y 40 Para PC de escritorio o portátiles, ahora puedes instalar 'Chat con RTX' en tu computadora, una herramienta que, de alguna manera, actúa como un ChatGPT personalizado.

Un modelo de IA personalizado basado en nuestro propio contenido

Entender qué es y qué no es 'Chatear con RTX' no es difícil. NVIDIA la define como una aplicación que nos permite personalizar un modelo de lenguaje de gran tamaño alimentándolo con nuestro propio contenido, como documentos de texto, notas o vídeos. En la práctica esto significa que esta herramienta pone en nuestras manos un modelo de inteligencia artificial que nos permitirá realizar consultas tomando como contexto nuestra propia información. De hecho, admite varios tipos de archivos, como .pdf, .docx o .xml.

Sin embargo, también podemos darte la URL de una lista de reproducción de YouTube y la aplicación te devolverá la transcripción del contenido de los vídeos que recopila ese repositorio. Desde allí podremos realizar consultas sobre el contenido de la transcripción. No pinta nada mal. Una nota importante: todo se ejecuta localmenteen nuestro propio PC, por lo que las consultas que realicemos serán seguras en la medida en que ninguno de nuestros datos salga a Internet.

Según NVIDIA 'Chat with RTX' aprovecha las unidades funcionales implementadas en las GPU GeForce RTX 30 y 40 expresamente para lidiar con algoritmos de inteligencia artificial, como los núcleos Tensor y RT. Configurar la versión de prueba de esta herramienta a la que hemos tenido acceso para preparar este artículo no ha sido trivial, pero tras realizar algunos ajustes ha funcionado correctamente. Este ejemplo ilustra claramente qué tipo de operaciones podemos realizar con esta herramienta actuando sobre nuestros datos.

Como hemos visto, el input que debemos proporcionar a 'Chat con RTX' debe ser una carpeta que contenga nuestros documentos .docx, .pdf o similares, o la URL de una lista de reproducción de YouTube. Para ponerla a prueba le entregué una carpeta en la que guardo varios documentos PDF con mis nóminas, mi contrato de trabajo y otros documentos profesionales, y una vez indexado todo le hice preguntas sobre mi sueldo, mis retenciones, etc. Y tenía razón. Con todo. El modelo de IA que he usado (la herramienta nos permite usar Mistral, que es el que usé yo, o LLaMA) funciona a las mil maravillas. Prometido.

Más información | Nvidia

En Xataka | La IA ha disparado las previsiones de ventas de NVIDIA. Tanto es así que TSMC no va a suministrar chips