Cómo utilizar modelos de IA locales en Opera One Developer

Si bien muchos navegadores están integrando funciones de IA en sus navegadores, Opera acaba de convertirse en el primer navegador en integrar modelos de IA locales. Opera está agregando soporte experimental para más de 150 variantes del Modelo de lenguaje grande local (LLM) de alrededor de 50 familias diferentes de modelos a su navegador Opera One.

Dado que los modelos de lenguaje serán locales, los usuarios no tendrán que preocuparse de que sus datos se envíen al servidor del LLM. Es una forma privada y segura de utilizar la IA.

Para utilizar los modelos LLM locales, necesitará entre 2 y 10 GB de espacio en su computadora, según la variante que utilizará. Algunos de los LLM admitidos incluyen Llama de Meta, Phi-2 de Microsoft, Gemma de Google, Vicuña, Mixtral de Mistral AI, etc. Puede usar estos modelos de lenguaje en lugar de Aria AI de Opera y volver a Aria AI cada vez que desear.

Actualmente, la función solo está disponible en la corriente de desarrolladores de Opera One. A continuación se explica cómo puede activar y utilizar los modelos de IA locales en Opera One Developer.

Descargar Opera One Desarrollador

Si ya tiene Opera One Developer, omita esta sección y continúe usando los modelos LLM locales.

Vaya a este enlace para descargar Opera One Developer. Desplácese hacia abajo y haga clic en «Descargar ahora» en el mosaico de Opera One Developer.

Abra el archivo una vez que se descargue y ejecute el instalador.
Haga clic en ‘Aceptar e instalar’ y luego siga las instrucciones en pantalla para instalar el navegador.

Configurar el modelo de IA local

Una vez descargado el navegador, haga clic en el icono ‘Aria AI’ en la barra lateral izquierda.

Haga clic en ‘Continuar’ para continuar.

Si estás usando Aria por primera vez, necesitarás registrarte para obtener una cuenta gratuita de Opera para usarlo. Puede utilizar su correo electrónico o su cuenta de Apple, Facebook o Google para crear una cuenta de Opera.

Una vez creada tu cuenta, podrás chatear con Aria.
Ahora, en el panel de Aria, verá una opción, «Elegir modelo de IA local». Haz click en eso.

Seleccione ‘Ir a Configuración’ en el menú desplegable.

Asegúrese de que la opción «Habilitar IA local en chats» esté habilitada.

A continuación, elija el modelo que desea descargar para uso local, ya sea haciendo clic o buscándolo. Como se mencionó anteriormente, Opera ha implementado soporte para aproximadamente 50 familias de modelos con diferentes variantes, lo que eleva el total a 150.

Entonces, para algunos modelos, cuando haces clic en algunos de ellos, como Gemma de Google, obtendrás 4 variantes diferentes. Descarga el modelo que deseas utilizar. Para esta guía, estamos descargando el modelo 2B Text de Gemma. Haga clic en el botón ‘Descargar’ a la derecha. Podrás ver el espacio requerido por el modelo en tu PC antes de descargarlo.

La descarga tardará algún tiempo, dependiendo del tamaño del modelo y de su conexión a Internet. Puedes ver el progreso de la descarga al lado.

Usando el modelo de IA local

Una vez descargado el modelo, haga clic en el icono ‘Menú’ en la parte superior izquierda del panel.

Seleccione ‘Nuevo chat’ en el menú que aparece.

Nuevamente, haga clic en la opción ‘Elegir modelo de IA local’ en la parte superior y seleccione el modelo que acaba de descargar, Gemma en nuestro caso, en el menú desplegable.

Ahora se le cambiará al modelo de IA local que elija. Escriba su mensaje en la barra de mensajes y envíelo a la IA para comenzar sus interacciones locales.

Tus chats con el modelo de IA local estarán disponibles en el historial de chat, al igual que tus chats con Aria. También puedes cambiar el nombre de los chats para una mejor organización.
De manera similar, puede descargar y utilizar varios modelos de IA locales, pero recuerde que cada uno requiere entre 2 y 10 GB de espacio en su computadora.
Para eliminar el modelo de su PC, navegue hasta la misma configuración desde donde descargamos el modelo anteriormente, es decir, Aria> Settings> Local AI Models> [Downloaded Model]. Luego, haga clic en el botón ‘Eliminar’.

Volver a Aria

Para volver a Aria, simplemente inicia un nuevo chat con la IA. Haga clic en el icono ‘+’ en la esquina superior derecha.

El nuevo chat comenzará con la propia Aria.

Es muy emocionante poder utilizar modelos de IA local en el navegador Opera One, y no sólo desde el punto de vista de la seguridad y la privacidad. Si bien en las primeras etapas todo es muy simple, los posibles casos futuros son bastante interesantes. Un navegador con IA local podría significar que podría usar su entrada histórica con todos sus datos; ¡Qué emocionante sería eso! Y el equipo de Opera está explorando esa posibilidad.

Pero incluso sin posibilidades futuras, las IA locales son una gran medida para los usuarios que se preocupan de que sus datos y chats con la IA se almacenen en sus servidores. Hay algunos LLM excelentes que podrías explorar, como Llama para codificación, Phi-2 para capacidades de razonamiento excepcionales y Mixtral para tareas como generación de texto, respuesta a preguntas, etc.