Meta prueba un nuevo chatbot… sálvese quien pueda

0


Sé que, por norma general, cuando hablo de Facebook y de Meta tiendo a ser bastante crítico. No tengo especial animadversión neither hacia la red social nor hacia la compañía, aunque es cierto que llevan años cosechando una imagen especialmente negative con esfuerzo. Sin embargo, in this ocasión procede aclarar that the advertencia de seguridad del título no se debe a que ablemos de un proyecto de esta empresa en particular… o, bueno, no del todo.

Yes la compañía ha puesto en marche BlenderBot 3, a general purpose chatbotde momento accesible solo desde Estados Unidos (he intendado acceder mediante dos VPN pero tampoco ha sido posible) y que, al menos en su definición, pretende to offer tanto conversación de carácter general, como las que pueden establecer en la barra del bar en each time, as responder to the type of consultation that is usually planted to the digital assistants.

Como todos los LLM, BlenderBot has sido entrenado con large conjuntos de datos de texto con el fin de poder establecer patrones que, a posteriori, serán los persons in charge of the respuestas facilitated by the IA. Dichos systems han demostrado ser ser extremadamente flexible y se les ha dado una variedad de usos, desde generar código para programmers hasta ayudar a los autores a escribir su próximo best seller. Sin embargo, estos modelos también tienen serios problems, como el desarrollo de sesgos a de los data sets y que, cuando desconocen la respuesta correcta a una pregunta, en vez de cir que no lo saben, tienden a inventarse una respuesta.

Meta prueba un nuevo chatbot... sálvese quien pueda

Y aquí podemos hablar en positivo de Meta, pues the BlenderBot object is probably, precisely, a possible solution for the problem of the invented results. Así, a detachable characteristic of this chatbot is that it is capable of buscar informaación en Internet para hablar sobre específicos temas. Y aún mejor, los usuarios pueden hacer click en sus respuestas para ver de dónde obtuvo su información. BlenderBot 3, en otras palabras, puede citar sus fuentes, aportando por lo tanto una enorme transparency.

Así stinks, el punto de partida de Meta es bueno, al menos en teoría. El problema es que los chatbots, tal y como los conocemos en la actualidad, tienen dos problemas. El primero es que su aprendizaje es continuo, por lo que basta con que un gran número de usuarios decidan to generate un sesgo malintencionado en la IA par que, si esta no cuenta con los elements necesarios para evitarlo, acabe “contaminada” y, por lo tanto, los reproduzca.

Y el segundo problema está relacionado con el primero, y es que este tipo de algoritmos operan como una caja cerrada y opaca, en el sentido de que no se sabe qué ocurre en su interior. Por lo tanto, sus responsibles depend exclusively on the constant observation of the IA, no can “raise el capó” para ver qué ocurre ahí dentro, lo que difficulty y retrasa la identificación de problems y, en casos casos, imposbilita que sean solventados.

Así, this chatbot from Meta parece un paso en la dirección correcta, pero después de tantas y tan malas experiencias en el pasado, reconozco que se más bien pessimista.

Leave A Reply