En el 2020 una aspiradora robot Roomba fotografió a una mujer en el baño mientras ella hacía sus necesidades. La foto, en donde la persona aparece sentada en el váter con el pantalón quitado hasta la altura de los muslos, apareció en distintos grupos de Facebook. Lo cual no debía ocurrir.
A pesar de que la mujer era parte de un plan piloto en el que estaba siendo entrenada la inteligencia artificial (IA) del apartaro en cuestión, el modelo Roomba J7 de iRobot, que cuenta con modernos sensores y cámaras, su imagen no debía ser publicado en ningún lado, menos en redes sociales.
Efectivamente la foto fue tomada por el robot aspiradora. Si bien cuenta MIT Teach Review, una luz verde parpadeante indicaba en el aparato que éste estaba utilizando la cámara. Es decir, la persona fue al baño estando consciente de ello, pues además, antes de acceder a que la aspiradora estuviera en su hogar haciendo pruebas, ella firmó dando su consentimiento.
Sin embargo, el hecho de que las fotos navegaran en Facebook no estaba en el contrato y que, por cierto, ni siquiera debía ocurrir. De acuerdo a lo publicado por MIT Tech Review, las distintas fotos -no solo la de ellas, sino de un montón de gente parte del programa- fueron enviadas a Scale AI, una startup que etiquetar que "contrata a trabajadores de todo el mundo para etiquetar datos de audio, fotos y videos utilizados para entrenar inteligencia artificial".
Por tanto, el problema principal radica en que los registros no fueron filtrados por la Roomba, sino por algún trabajor de Scale AI, quienes estaban trabajando en entrenar a la IA de la máquina. La compañía iRobot, comprada hace poco por Amazon, comentó que efectivamente las imágenes fueron tomadas en 2020 por una versión en prueba que no estaba a la venta en ese momento.
Según iRobot, estos dispositivos de prueba fueron entregados a "recolectores y empleados pagados" quienes firmaron acuerdos por escrito, como el caso de la mujer, considerando que iban a enviar registros a esta empresa de encargada de etiquetar los elementos, que luego son usados para enseñar a distintas inteligencias artificiales.
Por último, la compañía dijo que dependía de ellos "eliminar cualquier cosa que consideren sensible de cualquier espacio en el que opere el robot, incluidos los niños".
El portal MIT Tech Review indicó en su reporte que encontraron 15 fotos "embarazosas" de la cotidianidad en sus hogares, dando vueltas por Facebook. Aunque los participantes del proyecto estaban al tanto de que el aparato los podría grabar, las fotos no debían ser enviadas a sitios fuera de lo firmado por ellos.
