Las redes neuronales también han sido utilizadas en la construcción de clasificadores.
Una red neuronal es una red donde la entrada son los términos y la salida la o las categorías de interés. Los pesos representan las relaciones de dependencia. Normalmente se representan como grafos, donde los nodos representan la suma de las entradas, las flechas representan las entradas y salidas de los nodos (como podría ser un término del documento), las que vienen modificadas por los pesos.
Un documento de test i, carga sus pesos de términos en las unidades de entrada de la red. La activación se propaga por la red y el valor de la salida determina la decisión de categorización.
Normalmente, se usa backpropagation,
donde las clasificaciones erróneas modifican los parámetros de la red para minimizar o eliminar el error.
La red neuronal más simple es el perceptrón, que es un clasificador lineal.
Otros clasificadores lineales de red neuronal implementan regresión logística.
Las redes neuronales no lineales son redes con una o más capas de unidades extra. En categorización de texto, normalmente representa interacciones de mayor orden entre los términos.
En general, no se notan diferencias al implementar redes neuronales lineales y no lineales.
Han sido intensamente usadas en Inteligencia Artificial [Yang, 1999] y se sabe han sido probadas con el corpus Reuter-21450, tanto con perceptrones como con Redes Neuronales de tres capas (con una capa escondida). En las experiencias se ha utilizado una red neuronal por categoría y han mostrado un alto costo computacional.
No hay comentarios.:
Publicar un comentario