La Detección de Valores Atípicos (Outlier Detection) es un conjunto de técnicas estadísticas y de aprendizaje automático que permite identificar observaciones que presentan diferencias importantes respecto al comportamiento habitual de un conjunto de datos.
Los valores atípicos, también conocidos como outliers, pueden aparecer en prácticamente cualquier conjunto de información: ventas, precios, transacciones, mediciones industriales, datos financieros, tráfico web y resultados generados por sistemas de inteligencia artificial.
Por ejemplo, una empresa puede registrar normalmente entre 100 y 150 pedidos diarios, pero observar un día con 1.200 pedidos.
Ese valor podría identificarse como atípico.
Sin embargo, la observación no necesariamente representa un error. Podría deberse a una promoción comercial, una campaña exitosa, una operación extraordinaria o un problema técnico.
La detección de valores atípicos es importante porque las observaciones extremas pueden afectar a medias, desviaciones estándar, correlaciones, modelos predictivos y conclusiones empresariales.
También constituye una herramienta útil en el análisis de Visibilidad en Inteligencia Artificial (AI Visibility), donde las métricas de menciones, recomendaciones y citas pueden presentar variaciones inesperadas.
En este artículo explicamos qué es Outlier Detection, cómo funciona, cuáles son sus principales métodos estadísticos, qué algoritmos de Machine Learning pueden utilizarse y cómo interpretar los resultados de forma rigurosa.
¿Qué es la Detección de Valores Atípicos?
La detección de valores atípicos consiste en identificar registros que se encuentran suficientemente alejados del comportamiento habitual según un criterio definido.
Ese criterio puede basarse en:
- Distancia respecto a una media.
- Distancia respecto a una mediana.
- Rango intercuartílico.
- Densidad de observaciones.
- Distancia multivariante.
- Distribución estadística.
- Patrones temporales.
- Resultados de modelos predictivos.
Por ejemplo, consideremos los siguientes importes de compra:
45 €, 48 €, 50 €, 52 €, 49 €, 47 €, 51 €, 500 €.
El valor de 500 euros destaca claramente respecto a los demás.
Un procedimiento de detección de valores atípicos puede señalarlo para investigación.
No obstante, antes de eliminarlo sería necesario comprobar si representa una operación legítima.
Definición breve: La Detección de Valores Atípicos (Outlier Detection) es el proceso de identificar observaciones que se desvían significativamente de los patrones habituales de un conjunto de datos mediante criterios estadísticos, geométricos o de aprendizaje automático.
¿Qué significa Outlier Detection?
Outlier Detection es el término inglés para Detección de Valores Atípicos.
La palabra outlier se utiliza para describir una observación que se encuentra alejada de otros registros según una referencia determinada.
En español también se emplean expresiones como:
- Valor atípico.
- Observación atípica.
- Dato extremo.
- Observación inusual.
- Registro fuera de patrón.
Sin embargo, estos términos no siempre tienen un significado estadístico idéntico.
Por ejemplo, un valor extremo puede pertenecer legítimamente a la cola de una distribución.
Del mismo modo, una observación puede ser atípica respecto a un grupo específico, pero no respecto al conjunto completo.
El contexto es fundamental.
¿Por qué es importante detectar valores atípicos?
Los valores atípicos pueden afectar significativamente a los análisis.
1. Alteración de promedios
Una observación extrema puede desplazar la media.
2. Distorsión de modelos predictivos
Algunos modelos de regresión son sensibles a valores extremos.
3. Problemas de calidad de datos
Los registros atípicos pueden señalar errores de captura o procesamiento.
4. Identificación de eventos importantes
Algunos valores extremos representan acontecimientos empresariales significativos.
5. Evaluación estadística
Los valores atípicos pueden influir en medidas de dispersión y estimaciones.
6. Monitorización
Las observaciones inusuales pueden justificar revisiones adicionales.
La finalidad no consiste simplemente en eliminar valores diferentes, sino en comprenderlos.
Ejemplo: cómo un valor atípico afecta a la media
Supongamos que una empresa registra los siguientes importes:
40, 45, 50, 55 y 60 euros.
La media es:
(40 + 45 + 50 + 55 + 60) / 5 = 50 euros.
Ahora añadimos una compra de 800 euros.
La nueva media es:
(40 + 45 + 50 + 55 + 60 + 800) / 6 = 175 euros.
La media aumenta de 50 a 175 euros.
Sin embargo, la mediana de los seis valores es:
(50 + 55) / 2 = 52,50 euros.
Este ejemplo muestra que la media puede ser considerablemente más sensible a observaciones extremas que la mediana.
Eso no significa que debamos eliminar automáticamente la compra de 800 euros.
Si la transacción es real, forma parte de la información empresarial.
Diferencia entre Outlier Detection y Anomaly Detection
La detección de valores atípicos y la detección de anomalías están estrechamente relacionadas.
En muchos contextos se utilizan como sinónimos.
Sin embargo, puede establecerse una distinción práctica.
Outlier Detection
Suele centrarse en observaciones que se alejan estadística o geométricamente del conjunto de datos.
Anomaly Detection
Es un concepto más amplio que también puede incluir comportamientos, eventos y secuencias inusuales.
Por ejemplo:
Outlier: una factura de 50.000 euros entre facturas de aproximadamente 500 euros.
Anomalía colectiva: 10.000 solicitudes pequeñas realizadas automáticamente en pocos segundos.
La anomalía colectiva no necesita contener un valor individual extraordinariamente elevado.
En la documentación de scikit-learn, Outlier Detection también se distingue de Novelty Detection según las características del conjunto utilizado para ajustar el detector.
¿Qué diferencia existe entre un Outlier y un Error de Datos?
Esta distinción es especialmente importante.
Valor atípico legítimo
Una observación extraordinaria que representa un acontecimiento real.
Ejemplo: una compra de elevado importe realizada por un cliente empresarial.
Error de datos
Una observación incorrecta debido a un problema de registro, cálculo o procesamiento.
Ejemplo: almacenar 12.000 euros cuando el importe correcto era 120 euros.
Valor atípico contextual
Una observación que resulta inusual bajo determinadas condiciones.
Ejemplo: 300 pedidos pueden ser normales durante una campaña comercial, pero extraordinarios en un domingo habitual.
Por tanto:
Valor atípico no significa automáticamente dato incorrecto.
La eliminación de registros debe justificarse según el objetivo del análisis y la evidencia disponible.
Principales tipos de Valores Atípicos
1. Valores Atípicos Univariantes
Se detectan estudiando una sola variable.
Por ejemplo, importes de transacciones.
2. Valores Atípicos Multivariantes
Se detectan utilizando varias características simultáneamente.
Por ejemplo, una compra puede tener un importe normal y una frecuencia normal, pero una combinación extraordinaria de ambas variables.
3. Valores Atípicos Contextuales
Una observación resulta inusual según su entorno.
Por ejemplo, una venta elevada durante una festividad puede ser normal, pero no durante otro periodo.
4. Valores Atípicos Locales
Una observación se diferencia de los registros de su vecindario.
5. Valores Atípicos Temporales
Se identifican mediante patrones cronológicos.
Por ejemplo, un aumento repentino de latencia en un servidor.
Principales métodos estadísticos de Outlier Detection
Existen diferentes procedimientos para identificar observaciones extremas.
1. Z-Score
El Z-score mide la distancia entre una observación y la media, expresada en unidades de desviación estándar.
La fórmula es:
z = (x − μ) / σ
Donde:
- x representa el valor observado.
- μ representa la media.
- σ representa la desviación estándar.
Ejemplo
Supongamos que un conjunto de mediciones tiene:
- Media: 100.
- Desviación estándar: 10.
Para una observación de 130:
z = (130 − 100) / 10 = 3.
El valor se encuentra a tres desviaciones estándar por encima de la media.
En determinadas aplicaciones se utiliza un umbral como |z| mayor que 3 para señalar observaciones extremas.
Sin embargo, este umbral no constituye una regla universal.
Limitaciones
El Z-score clásico utiliza media y desviación estándar, que pueden verse influidas por valores extremos.
Además, cuando los datos presentan distribuciones muy asimétricas o colas pesadas, las reglas basadas en desviaciones estándar pueden resultar poco apropiadas.
2. Rango Intercuartílico (IQR)
El Interquartile Range (IQR) es una medida de dispersión basada en cuartiles.
Se calcula mediante:
IQR = Q3 − Q1
Donde:
- Q1 es el primer cuartil.
- Q3 es el tercer cuartil.
Una regla exploratoria habitual identifica posibles valores atípicos cuando están fuera de los límites:
Límite inferior = Q1 − 1,5 × IQR
Límite superior = Q3 + 1,5 × IQR
Ejemplo
Supongamos que:
- Q1 = 40.
- Q3 = 60.
- IQR = 20.
Entonces:
Límite inferior = 40 − 30 = 10.
Límite superior = 60 + 30 = 90.
Las observaciones inferiores a 10 o superiores a 90 pueden señalarse como posibles valores atípicos.
Ventajas
- Es relativamente sencillo.
- Utiliza medidas resistentes a determinados valores extremos.
- Resulta útil en exploración de datos.
Limitaciones
- No considera directamente relaciones entre variables.
- Puede identificar numerosas observaciones legítimas en distribuciones muy asimétricas.
- No funciona igual de bien para todos los tipos de datos.
3. Median Absolute Deviation (MAD)
La Desviación Absoluta Mediana (Median Absolute Deviation) mide la dispersión utilizando la mediana de las desviaciones absolutas respecto a la mediana.
Su fórmula básica es:
MAD = mediana(|xᵢ − mediana(x)|)
MAD es una alternativa robusta a la desviación estándar para determinados análisis.
Ejemplo
Consideremos:
10, 11, 12, 13, 14, 100.
La mediana es:
12,5.
Las desviaciones absolutas son:
2,5; 1,5; 0,5; 0,5; 1,5; 87,5.
La mediana de esas desviaciones es:
MAD = 1,5.
La observación de 100 destaca considerablemente frente a la dispersión central.
Modified Z-Score
Un procedimiento relacionado utiliza una puntuación robusta:
Modified Z-score = 0,6745 × (x − mediana) / MAD
Un valor absoluto superior a 3,5 se utiliza en determinadas referencias como criterio exploratorio.
Sin embargo, debe tratarse como una regla orientativa, no como un diagnóstico universal.
También es necesario gestionar los casos donde MAD es cero.
4. Boxplots
El Diagrama de Caja y Bigotes (Boxplot) es una representación gráfica que resume una distribución mediante cuartiles y mediana.
Normalmente muestra:
- Primer cuartil.
- Mediana.
- Tercer cuartil.
- Bigotes.
- Posibles valores atípicos.
En una configuración común, los bigotes se extienden hasta las observaciones más extremas que permanecen dentro de los límites de 1,5 × IQR.
Las observaciones exteriores se representan individualmente.
El boxplot constituye una herramienta exploratoria, no una prueba automática de errores.
5. Prueba de Grubbs
La Prueba de Grubbs (Grubbs’ Test) es un procedimiento estadístico para evaluar si existe un valor atípico en un conjunto univariante.
Su formulación clásica supone que los datos proceden aproximadamente de una distribución normal.
La estadística se basa en la mayor desviación absoluta respecto a la media, dividida por la desviación estándar muestral.
La prueba está orientada a detectar un único valor atípico bajo sus supuestos.
No debe utilizarse repetidamente para eliminar observaciones sin considerar los problemas de inferencia que puede introducir ese procedimiento.
6. Métodos para Múltiples Valores Atípicos
Cuando existen varias observaciones extremas, pueden estudiarse procedimientos específicos.
Por ejemplo:
- Generalized Extreme Studentized Deviate (Generalized ESD).
- Tietjen-Moore.
- Métodos robustos de estimación.
La selección depende de los supuestos estadísticos y del problema.
Métodos multivariantes de Detección de Valores Atípicos
Una observación puede parecer normal al analizar cada variable individualmente y, aun así, resultar inusual al considerar sus relaciones.
Ejemplo
Supongamos que dos variables son:
- Número de pedidos.
- Facturación total.
Una empresa puede registrar normalmente una facturación elevada cuando recibe numerosos pedidos.
Un día recibe pocos pedidos, pero registra una facturación extraordinariamente alta.
Cada variable podría estar dentro de su rango histórico.
Sin embargo, su combinación puede resultar atípica.
Para analizar estas situaciones se utilizan métodos multivariantes.
7. Distancia de Mahalanobis
La Distancia de Mahalanobis mide la separación de una observación respecto a una distribución de referencia, considerando la covarianza entre variables.
A diferencia de la distancia euclidiana convencional, incorpora relaciones estadísticas entre características.
Aplicaciones
- Análisis financiero.
- Control de calidad.
- Detección de observaciones multivariantes.
- Investigación de datos tabulares.
Limitaciones
La calidad de la estimación depende de la matriz de covarianza y de los supuestos utilizados.
En presencia de valores extremos puede resultar preferible utilizar estimadores robustos de covarianza.
8. Elliptic Envelope
Elliptic Envelope es un método disponible en scikit-learn.
Utiliza estimación robusta de covarianza para identificar una región central de los datos.
Es especialmente adecuado cuando la distribución normal puede aproximarse razonablemente mediante una estructura elíptica.
No es una solución universal para distribuciones complejas o multimodales.
9. Local Outlier Factor (LOF)
El Local Outlier Factor identifica observaciones con densidad local inferior a la de sus vecinos.
Este método puede resultar útil cuando existen grupos con diferentes densidades.
Por ejemplo, una compra de 1.000 euros puede ser normal para un grupo de clientes corporativos y atípica para otro de consumidores habituales.
LOF considera relaciones locales, aunque depende de parámetros y métricas de distancia.
10. Isolation Forest
Isolation Forest utiliza particiones aleatorias para aislar observaciones.
Los puntos que pueden aislarse rápidamente mediante los árboles suelen recibir puntuaciones asociadas con mayor carácter atípico.
Es un método práctico para determinados conjuntos de datos multivariantes.
Sin embargo, no proporciona automáticamente una explicación empresarial de por qué un registro es inusual.
Comparación de métodos de Outlier Detection
| Método | Tipo | Aplicación habitual |
|---|---|---|
| Z-score | Univariante | Desviación respecto a media |
| IQR | Univariante robusto | Exploración de extremos |
| MAD | Univariante robusto | Dispersión resistente |
| Grubbs | Prueba estadística | Un único atípico bajo supuestos |
| Mahalanobis | Multivariante | Distancia considerando covarianza |
| Elliptic Envelope | Multivariante | Regiones elípticas |
| LOF | Densidad local | Valores atípicos locales |
| Isolation Forest | Árboles aleatorios | Datos multivariantes |
No existe un método universalmente superior.
La elección debe considerar distribución, escala, número de variables, volumen de registros y finalidad del análisis.
¿Cómo detectar valores atípicos con Python?
Podemos utilizar Python, NumPy, SciPy, pandas y scikit-learn para desarrollar procedimientos de detección.
El siguiente ejemplo utiliza una regla IQR y MAD.
import numpy as npfrom scipy.stats import median_abs_deviation# Valores ficticios de ventas diariasventas = np.array([ 98, 102, 105, 99, 110, 103, 108, 101, 97, 106, 104, 109, 100, 107, 520], dtype=float)# Método IQRq1, q3 = np.percentile(ventas, [25, 75])iqr = q3 - q1limite_inferior = q1 - 1.5 * iqrlimite_superior = q3 + 1.5 * iqrmascara_iqr = ( (ventas < limite_inferior) | (ventas > limite_superior))print("Valores atípicos según IQR:")print(ventas[mascara_iqr])# Método MADmediana = np.median(ventas)mad = median_abs_deviation(ventas)if mad > 0: z_modificado = ( 0.6745 * (ventas - mediana) / mad ) mascara_mad = np.abs(z_modificado) > 3.5 print("Valores atípicos según MAD:") print(ventas[mascara_mad])else: print("MAD es cero; revisar el método.")
¿Qué hace este código?
Primero calcula los cuartiles y utiliza la regla IQR para identificar valores alejados del intervalo central.
Posteriormente calcula MAD y una puntuación robusta.
Finalmente señala las observaciones que superan los criterios establecidos.
¿Qué no hace?
No demuestra que los registros identificados sean incorrectos.
Tampoco determina automáticamente la causa del comportamiento.
Se requiere una revisión posterior.
Ejemplo con Python: Outlier Detection multivariante
El siguiente ejemplo utiliza Isolation Forest.
import numpy as npfrom sklearn.ensemble import IsolationForestfrom sklearn.preprocessing import StandardScaler# Datos ficticios:# [pedidos, facturación en euros]datos = np.array([ [10, 500], [12, 620], [11, 560], [13, 650], [9, 470], [14, 710], [10, 530], [12, 600], [11, 590], [8, 430], [50, 25000], [2, 18000]], dtype=float)# Estandarizar datosscaler = StandardScaler()X = scaler.fit_transform(datos)# Modelo de detecciónmodelo = IsolationForest( n_estimators=200, contamination=0.15, random_state=42)predicciones = modelo.fit_predict(X)puntuaciones = modelo.decision_function(X)for registro, etiqueta, puntuacion in zip( datos, predicciones, puntuaciones): resultado = ( "Posible valor atípico" if etiqueta == -1 else "Observación habitual" ) print( f"Registro: {registro}, " f"Resultado: {resultado}, " f"Puntuación: {puntuacion:.3f}" )
Este ejemplo es educativo.
El conjunto contiene muy pocas observaciones y la proporción esperada de valores atípicos se ha establecido de manera ilustrativa.
En una aplicación real conviene disponer de más datos y una evaluación independiente.
Además, el modelo identifica desviaciones estadísticas según las características seleccionadas, no necesariamente errores operativos.
¿Qué hacer después de detectar un Outlier?
Una vez identificada una observación, existen varias opciones.
1. Conservarla
Si representa un acontecimiento real y relevante, puede mantenerse.
2. Corregirla
Si existe evidencia de un error de registro, debe corregirse utilizando una fuente verificable.
3. Excluirla
En determinados análisis puede justificarse la exclusión de un registro.
La decisión debe documentarse.
4. Transformar variables
Algunas transformaciones pueden reducir la influencia de valores extremos.
5. Utilizar métodos robustos
Pueden utilizarse estimadores menos sensibles a determinados atípicos.
6. Analizar por segmentos
Una observación puede resultar normal dentro de su grupo, aunque parezca extrema globalmente.
7. Investigar el evento
Si representa un cambio importante, puede requerir una investigación operativa.
La decisión depende del objetivo del análisis.
¿Cuándo se deben eliminar valores atípicos?
Eliminar valores atípicos sin análisis puede introducir sesgos.
Por ejemplo, una empresa puede estudiar el importe de compras de sus clientes.
Si elimina automáticamente todas las operaciones elevadas, podría subestimar el valor de sus clientes más importantes.
De manera similar, una investigación de fraude no debería eliminar transacciones sospechosas simplemente porque sean estadísticamente extraordinarias.
Es preferible establecer reglas documentadas.
Por ejemplo:
Se corrigen registros cuando existe evidencia de un error de captura.
Se mantienen observaciones extremas legítimas cuando forman parte de la población estudiada.
Se excluyen registros únicamente cuando existe una justificación metodológica apropiada.
En algunos casos conviene presentar resultados con y sin determinadas observaciones para evaluar su influencia.
¿Qué es Winsorization?
La Winsorización (Winsorization) es una técnica que limita valores extremos utilizando determinados umbrales.
Por ejemplo, los valores superiores al percentil 99 pueden sustituirse por el valor correspondiente a ese percentil.
Esto reduce la influencia de observaciones extremas en determinados análisis.
Sin embargo, también modifica los datos.
No debe utilizarse automáticamente ni confundirse con la corrección de errores.
¿Qué son las Estadísticas Robustas?
Las Estadísticas Robustas (Robust Statistics) buscan limitar la influencia de determinadas desviaciones de los supuestos del modelo, incluidos algunos valores extremos.
Entre sus herramientas se encuentran:
- Mediana.
- Rango intercuartílico.
- MAD.
- Estimadores robustos de regresión.
- Estimadores robustos de covarianza.
Por ejemplo, la mediana suele ser menos sensible a un valor extraordinariamente elevado que la media.
Los métodos robustos no eliminan la necesidad de comprender la distribución y el contexto de los datos.
Outlier Detection y Regresión
Los valores atípicos pueden afectar considerablemente a la regresión.
Por ejemplo, un modelo lineal intenta ajustar una relación entre inversión publicitaria y ventas.
Una observación extrema puede influir en los coeficientes.
Sin embargo, es importante distinguir:
Valor atípico en la variable objetivo
Un registro presenta un resultado extraordinario.
Residuo elevado
El modelo produce un error grande para una observación.
Punto de alta influencia
Un registro modifica considerablemente el ajuste del modelo.
Estos conceptos están relacionados, pero no son idénticos.
Para estudiar influencia pueden utilizarse diagnósticos específicos, como distancia de Cook, según el modelo estadístico.
Outlier Detection y Clustering
El agrupamiento puede proporcionar una referencia local.
Por ejemplo, una empresa dispone de clientes particulares y corporativos.
Los importes habituales pueden ser muy diferentes.
Un detector global puede marcar erróneamente numerosas compras corporativas como atípicas.
Analizar los datos por segmentos puede ofrecer resultados más útiles.
Sin embargo, los clusters deben interpretarse y validarse adecuadamente.
Outlier Detection y Reducción de Dimensionalidad
Los métodos de reducción de dimensionalidad permiten representar datos complejos utilizando menos componentes.
Pueden utilizarse para visualizar observaciones potencialmente atípicas.
Por ejemplo, PCA puede ayudar a explorar datos multivariantes mediante gráficos de dos dimensiones.
Sin embargo, una observación puede ser atípica en dimensiones que no quedan representadas en la proyección.
Por ello, la ausencia de puntos alejados en un gráfico PCA no demuestra que no existan valores atípicos en el espacio original.
Outlier Detection y Machine Learning Supervisado
Cuando se dispone de etiquetas verificadas, la detección puede formularse como un problema de clasificación.
Por ejemplo:
- Transacción legítima.
- Transacción fraudulenta.
Sin embargo, los tipos de fraude desconocidos pueden no estar representados en los ejemplos.
Por eso algunos sistemas combinan clasificadores supervisados con detectores de valores atípicos.
El objetivo es aprovechar tanto patrones conocidos como desviaciones inesperadas.
¿Qué relación existe entre Outlier Detection y los LLM?
Los modelos de lenguaje pueden ayudar a analizar registros identificados como atípicos.
Por ejemplo, un detector estadístico puede señalar una variación inesperada en un informe.
Después, un LLM puede resumir la información disponible y preparar una explicación para revisión.
Sin embargo, el LLM no debe inventar una causa.
Una arquitectura fiable puede separar:
- Detección cuantitativa.
- Recopilación de evidencia.
- Investigación.
- Generación de una explicación.
- Revisión humana.
También pueden utilizarse embeddings para estudiar valores atípicos semánticos en colecciones de documentos.
Un texto puede diferir considerablemente de sus vecinos vectoriales, aunque ello no demuestre que sea incorrecto.
Aplicaciones empresariales de Outlier Detection
1. Control financiero
Identificar importes extraordinarios que merecen revisión.
2. Detección de fraude
Priorizar operaciones inusuales.
3. Mantenimiento industrial
Detectar mediciones extremas de sensores.
4. Calidad de datos
Identificar errores potenciales de captura.
5. Analítica comercial
Estudiar ventas o conversiones extraordinarias.
6. Recursos humanos
Analizar registros operativos inusuales dentro de límites adecuados de privacidad.
7. Logística
Investigar tiempos de entrega fuera de patrones habituales.
8. Ciberseguridad
Detectar actividad diferente de patrones conocidos.
9. Marketing digital
Estudiar variaciones extremas en métricas de campañas.
10. AI Visibility Monitoring
Identificar observaciones y mediciones que se diferencian significativamente de una referencia histórica.
¿Por qué es importante Outlier Detection para AI Visibility?
Una plataforma de AI Visibility puede almacenar grandes colecciones de respuestas de asistentes de inteligencia artificial.
Posteriormente calcula indicadores como:
- Tasa de menciones.
- Tasa de recomendaciones.
- Cobertura de citas.
- Cobertura de fuentes.
- Precisión de marca.
- Presencia competitiva.
Estos indicadores pueden contener valores extremos.
Sin embargo, la detección debe considerar el contexto de medición.
Una caída observada puede deberse a:
- Un cambio real en las respuestas.
- Una cartera de prompts diferente.
- Una modificación del clasificador.
- Un error técnico.
- Un volumen de muestras insuficiente.
- Variabilidad estadística.
Por ello, la detección de valores atípicos puede funcionar como mecanismo de control de calidad y priorización de investigaciones.
Ejemplo práctico: valores atípicos en Tasa de Recomendación
Supongamos que una marca presenta estas tasas mensuales:
| Mes | Tasa de recomendación |
|---|---|
| Enero | 29 % |
| Febrero | 31 % |
| Marzo | 30 % |
| Abril | 32 % |
| Mayo | 30 % |
| Junio | 10 % |
| Julio | 31 % |
| Agosto | 29 % |
Los datos son ficticios.
Junio presenta un valor claramente inferior a los demás.
Una regla estadística puede identificarlo como candidato a revisión.
Sin embargo, antes de concluir que la marca perdió visibilidad debemos comprobar:
¿Se utilizaron las mismas consultas?
Las carteras de prompts pueden cambiar los resultados.
¿Se utilizó la misma plataforma?
Las respuestas pueden diferir entre asistentes.
¿Se modificó el clasificador?
Una nueva versión puede utilizar criterios diferentes.
¿Hubo problemas de recopilación?
Los registros incompletos pueden distorsionar los indicadores.
¿Cuántas respuestas se analizaron?
Una tasa calculada con pocas observaciones presenta mayor variabilidad.
¿El resultado volvió a su nivel anterior?
La recuperación observada en julio puede aportar información, pero no determina automáticamente la causa de la caída.
La investigación debe utilizar evidencia verificable.
La importancia del denominador en las tasas de AI Visibility
Un valor porcentual no contiene toda la información necesaria para evaluar su variabilidad.
Supongamos:
Marca A: 3 recomendaciones entre 10 respuestas.
Marca B: 300 recomendaciones entre 1.000 respuestas.
Ambas tienen una tasa observada del 30 %.
Sin embargo, la precisión estadística de ambas estimaciones puede ser muy diferente.
Por eso, una plataforma de monitorización debería conservar:
- Número de respuestas elegibles.
- Número de menciones.
- Número de recomendaciones.
- Número de prompts.
- Repeticiones por prompt.
- Fecha.
- Plataforma.
- Versión de análisis.
En determinados escenarios, un método para proporciones puede ser más adecuado que aplicar directamente Z-score o IQR a porcentajes agregados.
¿Se puede utilizar IQR para detectar caídas de visibilidad?
Sí, como herramienta exploratoria.
Por ejemplo, una plataforma puede calcular cuartiles de tasas históricas comparables.
Después puede identificar valores situados fuera de los límites derivados del IQR.
Sin embargo, deben considerarse varias limitaciones:
- Las tasas están limitadas entre 0 % y 100 %.
- Los denominadores pueden variar.
- Los datos pueden presentar tendencias.
- Puede existir estacionalidad.
- Los periodos pueden estar correlacionados.
- Las muestras pueden ser pequeñas.
Por eso, IQR puede ser útil para generar candidatos a revisión, pero no necesariamente como mecanismo definitivo de alertas.
Outlier Detection para controlar la calidad de los KPI
Un proceso de AI Visibility puede incluir varios controles.
Paso 1. Recopilación
Se almacenan las consultas y respuestas originales.
Paso 2. Validación técnica
Se comprueban errores de API, registros vacíos y duplicados.
Paso 3. Clasificación
Los modelos identifican menciones, recomendaciones y otros atributos.
Paso 4. Aprobación
Las observaciones se validan según la metodología.
Paso 5. Cálculo de métricas
Se generan indicadores para cada periodo.
Paso 6. Detección de valores atípicos
Se aplican métodos apropiados para identificar diferencias extraordinarias.
Paso 7. Revisión contextual
Se comprueban volumen, metodología y cambios de datos.
Paso 8. Investigación
Se analizan las respuestas originales.
Paso 9. Documentación
Se registra el resultado de la investigación.
Paso 10. Publicación
Los indicadores se presentan con información suficiente para comprender su procedencia.
Este procedimiento ayuda a mantener la confianza en las métricas.
¿Qué es un Outlier Semántico en AI Search?
Un outlier semántico es una observación cuyo contenido presenta poca similitud con otros textos relevantes, según una representación y una medida de distancia o similitud determinadas.
Por ejemplo, una colección de respuestas sobre software CRM contiene explicaciones relacionadas con:
- Gestión de clientes.
- Automatización de ventas.
- Oportunidades comerciales.
- Contactos.
- Pipeline.
Una respuesta relacionada principalmente con maquinaria industrial podría resultar atípica respecto a ese conjunto.
Un sistema puede utilizar embeddings y análisis de distancias para identificarla.
Sin embargo, el resultado depende del modelo de representación y del contexto.
Un contenido semánticamente diferente no significa necesariamente que el asistente haya cometido un error.
¿Cómo diferenciar una anomalía real de un error del analizador?
Una plataforma puede comparar diferentes fuentes de evidencia.
Respuesta original
Permite comprobar exactamente qué produjo el asistente.
Clasificación automática
Muestra cómo interpretó el texto el modelo analítico.
Versión del clasificador
Permite identificar cambios de software.
Etiqueta verificada
Aporta una referencia revisada.
Indicador agregado
Muestra cómo se utilizó la observación en las métricas.
Si una clasificación automática cambió, pero la respuesta original es idéntica, puede existir una diferencia metodológica.
Si las respuestas cambiaron realmente, puede tratarse de una variación observable del asistente.
Esta distinción es esencial para interpretar tendencias.
¿Cuándo conviene utilizar métodos robustos para AI Visibility?
Los métodos robustos pueden resultar útiles cuando determinadas métricas contienen valores extremos o distribuciones asimétricas.
Por ejemplo, pueden utilizarse medianas o rangos intercuartílicos para resumir variaciones de ciertos indicadores.
Sin embargo, si una tasa de recomendaciones procede de resultados binarios, pueden ser más apropiados modelos estadísticos que consideren éxitos, denominadores y dependencia entre observaciones.
La elección debe adaptarse al diseño del estudio.
No debe utilizarse un método robusto únicamente porque parezca sofisticado.
Ventajas de Outlier Detection
Mejora del control de calidad
Permite identificar registros que necesitan revisión.
Detección de problemas potenciales
Puede señalar errores y eventos inesperados.
Protección de análisis estadísticos
Facilita estudiar la influencia de valores extremos.
Automatización
Puede incorporarse a procesos de análisis de grandes cantidades de datos.
Aplicaciones empresariales
Es útil en finanzas, operaciones, marketing e industria.
Integración con Machine Learning
Puede combinarse con clasificación, clustering y regresión.
Monitorización de KPI
Puede ayudar a identificar variaciones extraordinarias de indicadores.
Limitaciones y riesgos
Falsos positivos
Una observación legítima puede identificarse como atípica.
Falsos negativos
Un problema real puede no superar el umbral utilizado.
Dependencia de distribución
Algunos métodos requieren supuestos estadísticos específicos.
Sensibilidad a parámetros
Las decisiones pueden variar con los umbrales.
Influencia de escala
Las características numéricas pueden tener magnitudes diferentes.
Problemas temporales
Una observación extrema puede ser normal durante determinadas fechas.
Interpretación incorrecta
Un valor atípico no demuestra fraude, error ni causalidad.
Eliminación indebida
Excluir extremos legítimos puede sesgar los resultados.
Datos insuficientes
Las referencias estadísticas pueden ser inestables.
Complejidad multivariante
Las relaciones entre variables pueden dificultar la interpretación.
Buenas prácticas para detectar y gestionar Outliers
Para desarrollar un procedimiento fiable conviene:
- Definir el objetivo del análisis.
- Comprender la distribución de los datos.
- Visualizar los registros.
- Comparar medidas clásicas y robustas.
- Considerar el contexto empresarial.
- Evaluar relaciones entre variables.
- Documentar umbrales.
- No eliminar registros automáticamente.
- Revisar la fuente original.
- Realizar análisis de sensibilidad.
- Evaluar cambios temporales.
- Conservar trazabilidad de las decisiones.
En AI Visibility también conviene conservar los denominadores de los indicadores y las versiones de los clasificadores.
Preguntas frecuentes sobre Detección de Valores Atípicos
¿Qué significa Outlier Detection?
Significa Detección de Valores Atípicos y consiste en identificar observaciones que se desvían de patrones habituales.
¿Qué es un Outlier?
Es una observación que resulta extraordinaria según un criterio estadístico, geométrico o contextual.
¿Outlier Detection y Anomaly Detection son lo mismo?
Son conceptos estrechamente relacionados. En algunos contextos se utilizan como sinónimos, aunque Anomaly Detection puede incluir patrones colectivos y temporales más amplios.
¿Qué es Z-score?
Es una medida que expresa la distancia respecto a la media en unidades de desviación estándar.
¿Qué es IQR?
Es el rango intercuartílico, calculado como la diferencia entre el tercer y el primer cuartil.
¿Qué es MAD?
Es la mediana de las desviaciones absolutas respecto a la mediana, una medida robusta de dispersión.
¿Qué es Modified Z-score?
Es una puntuación robusta basada en mediana y MAD.
¿Qué es un Boxplot?
Es un gráfico que resume una distribución mediante cuartiles, mediana y bigotes.
¿Qué es la prueba de Grubbs?
Es un procedimiento estadístico para evaluar la presencia de un valor atípico bajo determinados supuestos, incluida normalidad aproximada.
¿Qué es la distancia de Mahalanobis?
Es una distancia multivariante que considera relaciones de covarianza entre variables.
¿Qué es Local Outlier Factor?
Es un algoritmo que compara la densidad local de una observación con la de sus vecinos.
¿Qué es Isolation Forest?
Es un método basado en particiones aleatorias que permite identificar observaciones difíciles de integrar en patrones habituales.
¿Debo eliminar todos los valores atípicos?
No. Algunos representan acontecimientos reales importantes y su eliminación puede introducir sesgos.
¿Qué es Winsorization?
Es una técnica que limita valores extremos utilizando determinados umbrales, modificando sus valores originales.
¿Se pueden detectar Outliers con Python?
Sí. Bibliotecas como NumPy, SciPy y scikit-learn permiten aplicar diferentes métodos.
¿Outlier Detection puede ayudar a medir AI Visibility?
Sí. Puede señalar resultados de visibilidad inusuales para revisión, pero no demuestra automáticamente que exista un cambio real en las recomendaciones de asistentes.
Conceptos relacionados
- Inteligencia Artificial (IA): disciplina dedicada al desarrollo de sistemas inteligentes.
- Aprendizaje Automático (Machine Learning): técnicas que aprenden patrones a partir de datos.
- Aprendizaje No Supervisado: identificación de estructuras sin etiquetas objetivo.
- Clasificación: predicción de categorías conocidas.
- Regresión: predicción de valores numéricos.
- Clustering: agrupamiento de observaciones.
- Reducción de Dimensionalidad: representación compacta de datos.
- Detección de Anomalías: identificación de eventos y comportamientos inusuales.
- Z-score: desviación estandarizada respecto a la media.
- IQR: rango intercuartílico.
- MAD: desviación absoluta mediana.
- Estadística Robusta: métodos que limitan la influencia de ciertas desviaciones.
- Visibilidad en Inteligencia Artificial: análisis de presencia y recomendaciones de marcas en asistentes.
Conclusión
La Detección de Valores Atípicos (Outlier Detection) es una técnica fundamental del análisis estadístico y del aprendizaje automático que permite identificar observaciones que se diferencian significativamente de los patrones habituales de un conjunto de datos.
Los métodos más conocidos incluyen Z-score, IQR, MAD, pruebas estadísticas, distancias multivariantes, Local Outlier Factor e Isolation Forest.
Cada procedimiento utiliza criterios distintos y presenta limitaciones específicas.
La detección de un valor atípico no significa que exista un error. Algunos extremos representan eventos reales y comercialmente importantes.
Por ello, las decisiones sobre conservación, corrección o exclusión de registros deben estar justificadas y documentadas.
En el contexto de la visibilidad de marcas en inteligencia artificial, Outlier Detection puede ayudar a identificar variaciones extraordinarias en tasas de menciones, recomendaciones y otros indicadores.
Sin embargo, esas variaciones deben investigarse considerando metodología, muestras, respuestas originales y posibles cambios técnicos.
La conclusión fundamental es que Outlier Detection permite identificar observaciones que merecen atención, pero su utilización responsable exige combinar métodos estadísticos adecuados, conocimiento del contexto y verificación de los datos antes de tomar decisiones.
