Procesamiento del Lenguaje Natural Aplicado en la Empresa

Capítulo 2. Transformadores y aprendizaje por transferencia

Este trabajo se ha traducido utilizando IA. Agradecemos tus opiniones y comentarios: [e-mail]

Ahora que te has introducido en el campo del procesamiento del lenguaje natural, hay algo importante que debes comprender. En realidad, no es un viaje muy largo desde donde empiezas hasta el estado del arte.

Con el tiempo , volveremos a lo básico, discutiremos los fundamentos y comprenderemos todos los detalles, por supuesto. Pero vamos a mostrarte la tierra prometida antes de aventurarnos en el largo y duro viaje para llegar a ella.

Una de las ideas más importantes que debes poner en práctica si quieres que el aprendizaje profundo funcione en el mundo real de es el aprendizaje por transferencia, que es el proceso de tomar un modelo que ya ha sido entrenado en otro conjunto de datos y ajustarlo para que se adapte a tu nuevo conjunto de datos. Por ejemplo, si estás entrenando un modelo lingüístico para generar relatos cortos convincentes al estilo de Hemingway, podrías afinar un modelo entrenado en una amplia variedad de libros en lugar de entrenarlo sólo en las muestras de texto de Hemingway, de las que puede que no haya muchas.

Una bonita analogía en la programación orientada a objetos es el concepto de herencia en las clases. Supongamos que estamos haciendo una especie de videojuego de gestión de zoo, en el que cada animal está representado por una clase. Los animales tienen propiedades como peso y altura, ...