Una lucha constante de redes sociales como Facebook o Twitter es contra los usuarios que realizan spam, engañan mediante phishing o simplemente trollean. Facebook ahora dice tener una nueva herramienta para detectarlos: un Facebook paralelo donde bots con inteligencia artificial imitan a este tipo de usuarios. Con esto pueden estudiar su comportamiento y experimentar con medidas para ver si menguan su actividad.
Para mejorar las pruebas de software para estos entornos complejos, particularmente en áreas de productos relacionadas con la seguridad y la privacidad, los investigadores de Facebook han desarrollado la Web Enabled Simulation WES, (Simulación Habilitada para la Web) (WES). WES es un nuevo método para construir las primeras simulaciones altamente realistas a gran escala de redes sociales complejas. Tiene tres aspectos importantes:
- Utiliza el aprendizaje automático para entrenar bots para simular de manera realista los comportamientos de personas reales en una plataforma de redes sociales. Los bots están entrenados para interactuar entre ellos usando la misma infraestructura que los usuarios reales, para que puedan enviar mensajes a otros bots, comentar las publicaciones de los bots o publicar los suyos, o hacer solicitudes de amistad a otros bots. Los bots no pueden interactuar con usuarios reales y su comportamiento no puede tener ningún impacto en los usuarios reales o sus experiencias en la plataforma.
- WES puede automatizar las interacciones entre miles o incluso millones de bots. Estamos utilizando una combinación de simulación en línea y fuera de línea, entrenando bots con cualquier cosa, desde reglas simples y aprendizaje automático supervisado hasta aprendizaje de refuerzo más sofisticado. Esta combinación nos proporciona un espectro de características de simulación que afectan a las preocupaciones de ingeniería, como la velocidad, la escala y el realismo; diferentes casos de uso requieren diferentes compensaciones de ingeniería a lo largo de este espectro para una máxima eficiencia y efectividad.
- WES implementa estos bots en la base de código de producción real de la plataforma. Los bots pueden interactuar entre sí, pero están aislados de los usuarios reales. Esta simulación de infraestructura real asegura que las acciones de los bots sean fieles a los efectos que serían presenciados por personas reales que usan la plataforma.
El enfoque WES puede explorar automáticamente escenarios complicados en un entorno simulado. Si bien el proyecto se encuentra en una etapa de solo investigación en este momento, la esperanza es que algún día nos ayudará a mejorar nuestros servicios y detectar posibles problemas de confiabilidad o integridad antes de que afecten a personas reales que usan la plataforma. Con WES, también estamos desarrollando la capacidad de responder preguntas contrafactuales y qué pasaría con escalabilidad, realismo y control experimental.
Un enfoque abierto a un desafío colectivo.
La construcción de entornos de simulación sofisticados plantea una serie de interesantes desafíos científicos. Por ejemplo, para construir bots que se comporten de manera realista e inteligente, aprovechamos una combinación de tecnologías e investigaciones publicadas sobre una amplia variedad de temas, incluyendo ingeniería de software basada en búsquedas, aprendizaje automático, lenguajes de programación, sistemas multiagente, teoría de gráfos, IA de juegos, y jugabilidad asistida por IA.
Además, el espacio de búsqueda de mecanismos potenciales y las formas en que los comportamientos interactúan con ellos es enorme y complicado. Pequeños cambios en el mecanismo y / o comportamiento pueden interactuar de manera sutil e inesperada, imbuyendo a la simulación con toda la complejidad del comportamiento emergente.
Para acelerar el progreso, estamos buscando aportes de otros en la comunidad de investigación. Hemos compartido detalles sobre el enfoque WES y nuestro prototipo inicial, WW, y lanzado una solicitud de propuestas (RFP) invitando a investigadores académicos y científicos para aportar nuevas ideas a WES y WW. Estos premios se otorgan a académicos líderes mundiales como obsequios sin restricciones para apoyar su exploración de la ciencia que sustenta a WES.
Recibimos 85 presentaciones de 17 países de todo el mundo. El interés, la amplitud y la profundidad de las propuestas de investigación son un testimonio de la forma en que la agenda de investigación de WES toca tantos temas de investigación importante y emocionante. Es por eso que estamos tan interesados en asociarnos con la comunidad de investigación científica para ayudar a avanzar en nuestra comprensión colectiva de estos temas.
Construyendo WW, un entorno de prueba verdaderamente realista
Hemos utilizado WES para construir WW, un entorno simulado de Facebook utilizando la base de código de producción real de la plataforma. Con WW (el nombre pretende mostrar que esta es una versión más pequeña de la World Wide Web, o WWW), podemos, por ejemplo, crear bots de IA realistas que buscan comprar artículos que no están permitidos en nuestra plataforma, como pistolas o drogas. Debido a que el bot esté actuando en la versión de producción real de Facebook, puede realizar búsquedas, visitar páginas, enviar mensajes y tomar otras medidas como lo haría una persona real. Sin embargo, los Bots no pueden interactuar con los usuarios reales de Facebook, y su comportamiento no puede afectar la experiencia de los usuarios reales en la plataforma.
Luego podemos ejecutar simulaciones para ver si el bot puede frustrar nuestras salvaguardas y violar nuestros Estándares de la comunidad. Al hacer esto a escala en WW, podemos identificar patrones estadísticos en los resultados y probar formas de abordar los problemas. También podemos aprovechar el componente de diseño de mecanismos de WW, que utiliza la búsqueda computacional (en el espacio de las variantes de productos), para conocer los mecanismos de los productos que tenderán a dificultar su comportamiento de manera que viole nuestras Normas de la comunidad.
Mejora de herramientas para construir plataformas sociales mejores y más seguras
En cualquier sistema a gran escala, no el comportamiento de todas las personas será benigno, y el comportamiento de todos evolucionará y se adaptará según cómo responda la plataforma y lo que hagan otras personas. Algunas interacciones complejas producirán propiedades emergentes que son difíciles o incluso imposibles de predecir. Con el método WES y nuestro simulador WW, hemos creado una mejor manera de abordar este desafío importante pero difícil. Esto nos ayudará a hacer nuestras plataformas más seguras, más estables, más robustas y con mejor rendimiento. Y al compartir nuestro trabajo y otorgar subvenciones a investigadores académicos, también esperamos que WES ayude a otros a desarrollar nuevas formas de modelar este tipo de situaciones complejas. Muchas, tal vez la mayoría, las plataformas de software de hoy en día permiten que las comunidades de personas se unan e interactúen de formas multifacéticas y difíciles de predecir.Por lo tanto, construir mejores herramientas de prueba para estos sistemas puede tener un amplio impacto
