Día 123: Nextdoor habla sobre IA. ¿Qué pasa con la privacidad y la seguridad en año electoral?
Se acercan las elecciones y me gustaría que Nirav Tolia, CEO de Nextdoor, hablara sobre un tema.
Hemos oído hablar mucho de la IA, la inteligencia vecinal y el valor de los datos de Nextdoor. Son temas importantes.
Pero aquí hay una pregunta que merece la misma atención:
¿Qué ocurre cuando una conversación vecinal se politiza y alguien con acceso a información confidencial de los usuarios decide hacer un mal uso de ella?
La política puede generar debates acalorados. La gente discrepa. Los moderadores locales intentan hacer cumplir las normas de la comunidad, pero ningún sistema de moderación puede garantizar que todas las discusiones se mantengan dentro del marco civilizado.
Ahora bien, consideremos qué diferencia a Nextdoor de muchas otras plataformas sociales: la conexión entre las cuentas y las direcciones verificadas del vecindario.
Esto plantea una cuestión importante sobre el acceso, la privacidad y la rendición de cuentas.
El riesgo no reside solo en lo que la gente publica, sino en quién puede acceder a esos datos.
Imagina que un vecino tiene una acalorada discusión política con alguien en Nextdoor.
¿Qué ocurre si el desacuerdo va más allá de los comentarios?
¿Qué ocurre si alguien intenta averiguar dónde vive otra persona, revelar su número de teléfono, intimidarla fuera de línea o utilizar información privada para tomar represalias?
No afirmo que esto haya sucedido ni que los moderadores de Nextdoor estén haciendo un mal uso de la información de nadie. Simplemente pregunto qué medidas de seguridad existen para evitarlo.
Si un moderador o alguien con privilegios en la plataforma puede acceder a información confidencial vinculada a cuentas verificadas, ¿qué les impide abusar de ese acceso?
La capacidad de una persona para moderar una conversación no debería implicar automáticamente que necesite tener acceso a la información privada de esa persona.
Nirav, esto es lo que me gustaría saber
Controles de acceso: ¿Quién puede acceder a las direcciones verificadas, los números de teléfono y otra información confidencial de los usuarios?
Principio del mínimo privilegio: ¿Están los moderadores restringidos a la información que realmente necesitan para desempeñar sus funciones?
Registros de auditoría: ¿Nextdoor registra y revisa el acceso a información confidencial de los usuarios? ¿Puede una actividad sospechosa dar lugar a una investigación?
Responsabilidad de los moderadores: ¿Qué medidas de selección, capacitación y supervisión ayudan a prevenir el abuso de los privilegios de moderador?
Denuncias y respuesta: Si un usuario sospecha que su información ha sido utilizada indebidamente, ¿cómo puede denunciarlo y qué protecciones y procedimientos de respuesta tiene a su disposición?
Preparación para la temporada electoral: ¿Tiene Nextdoor procedimientos específicos para manejar el acoso político, la divulgación de información personal, las amenazas y los intentos de llevar las disputas en línea al mundo real?
No se trata de acusaciones. Son preguntas básicas sobre privacidad, seguridad y gestión de riesgos.
Las direcciones verificadas generan responsabilidad
El modelo de Nextdoor se basa en conectar a las personas con comunidades reales. Esto puede contribuir a que las conversaciones locales sean relevantes.
Pero la verificación por sí sola no garantiza un buen comportamiento.
Una dirección verificada es una señal de confianza, no una garantía de que todos los que tengan acceso a la plataforma actuarán de forma apropiada.
La seguridad debe ir más allá de verificar quién pertenece a un vecindario. También debe regular quién puede acceder a información confidencial, por qué puede acceder a ella y qué sucede cuando alguien abusa de ese privilegio.
Eso es especialmente importante cuando los desacuerdos se vuelven personales.
La IA puede esperar. Hablemos de proteger a las personas.
Nirav, me interesa la estrategia de inteligencia artificial de Nextdoor. Me interesa la información sobre el vecindario y cómo la empresa planea ser rentable.
Pero a medida que se acerca el día de las elecciones, creo que la privacidad y la seguridad también merecen una conversación directa.
La gente no debería tener que elegir entre participar en su vecindario y preocuparse de que su información personal pueda ser utilizada en su contra.
¿Qué medidas de protección tiene Nextdoor para salvaguardar a los usuarios cuando los desacuerdos políticos se acaloran, y cómo exige responsabilidades a las personas con acceso privilegiado?
No le pido a Nextdoor que revele detalles de seguridad que podrían permitir a alguien eludir sus protecciones. Lo que pido es una explicación clara de las medidas de seguridad, la supervisión y los procedimientos de denuncia que protegen a sus usuarios.
Día 123. Sigo queriendo que Nextdoor tenga éxito. Proteger a las personas que hacen que la plataforma sea valiosa debería ser parte de ese éxito.
👉 Sigue mi estudio de caso en curso en NielFlamm.com/blog