Café con Tech #69 ☕ - El Problema con el Reconocimiento Facial Masivo

IBM y Amazon para proyectos de reconocimiento facial, Twitter continúa su lucha contra los fake news y Uber pierda la oportunidad de adquirir Grubhub

Jun 15, 2020

Tiempo de lectura: 6 minutos

—————

Vivimos en un mundo en el que la tecnología cada vez juega un rol más importante en nuestras vidas. Café con Tech es el newsletter que te ayuda a entender el impacto que las últimas noticias en tecnología tienen en nuestro día a día, en lo que te demoras en tomar tu café de la mañana. Si disfrutas leyendo este newsletter y conoces a alguien que podría gustarle, dile que se suscriba haciendo click aquí.

—————

📚 En mi mesa de noche: Empires of the Sky: Zeppelins, Airplanes, and Two Men's Epic Duel to Rule the World by Alexander Rose

🎧 Podcast de la semana: Coronavirus: Weirdest Virus Ever? - Science Vs

👁 Amazon e IBM Detienen Iniciativas de Reconocimiento Facial

Es un poco extraño, siendo este un newsletter sobre tecnología, tener que a veces argumentar en contra de una tecnología que en primera instancia a todos nos emociona, pero bueno, aquí estamos.

No es la primera vez que hablamos de los peligros del reconocimiento facial y lo que podría significar para nuestro derecho a la privacidad. En enero hablamos sobre Clearview AI, una startup que secretamente había estado trabajando con múltiples agencias de seguridad en Estados Unidos para ayudarlos a identificar sospechosos usando su herramienta de reconocimiento facial.

En su momento, explique que la razón por la que la masificación de esta tecnología me preocupaba era la siguiente:

A primera vista, lo que Clearview es capaz de hacer pareciera ser algo positivo: la compañía está ayudando a identificar y atrapar criminales de una manera más rápida y efectiva (a pesar de que 1/4 de los matches identificados son erróneos). Sin embargo, el modo en que lo está haciendo podría abrir una caja de pandora que luego será difícil, o imposible, cerrar.
Clearview asegura que su tecnología siempre será para uso privado de entidades de seguridad pública, pero con la tecnología ya estando afuera en el mundo, es cuestión de tiempo para que salga alguna compañía clon que si este dispuesta a tener su herramienta abierta al público general.
Cuando esto ocurra, nuestra privacidad será posiblemente inexistente. Cualquier persona podría tomarnos una foto en la calle, meterla en el programa e identificar quienes somos en cuestión de segundos.

Para mi, estos argumentos siguen siendo relevantes. En especial luego de que esta semana IBM y Amazon ambos anunciaran que estarían deteniendo pilotos para permitir que sus herramientas de reconocimiento facial sean utilizadas por departamentos de policía y agencias de seguridad.

Como decía al principio, es un poco extraño tener que argumentar el caso en contra de una tecnología que sin duda podría salvar vidas. Nadie puede negar que poder rápidamente identificar un terrorista o criminal sería algo beneficioso.

El problema está en que el comenzar a usar estas tecnologías masivamente podrían desencadenar un efecto dominó. Sobretodo, si observamos uno de los grandes problemas que esta tecnología tiene hoy en día: sesgo racial. Justamente esta es una de las principales razones que el CEO de IBM destacó en su carta anunciando la decisión de la empresa.

Por ejemplo, un estudio de MIT encontró que tres de las herramientas de reconocimiento facial más utilizadas hoy en día tenían un margen de error del 34% al identificar mujeres de tez oscura. Margen de error 49 veces superior al de hombres de piel blanca.

Ese margen de error es el que lleva a casos como el de una estudiante de Brown University que fue identificada, erróneamente, como una de las responsables de un ataque terrorista en Sri Lanka en 2019. A pesar de estar a miles de kilometros de distancia del lugar del atentado.

De igual manera, la masificación no regulada de esta tecnología es la que lleva a que casos como este ocurran:

In the spring of 2017, a man was caught on a security camera stealing beer from a CVS store in New York. But the camera didn’t get a good shot of the man, and the city’s face-scanning system returned no match.
The police, however, were undeterred. A detective in the New York Police Department’s facial recognition department thought the man in the pixelated CVS video looked like the actor Woody Harrelson. So the detective went to Google Images, got a picture of the actor and ran his face through the face scanner. That produced a match, and the law made its move. A man was arrested for the crime not because he looked like the guy caught on tape but because Woody Harrelson did.

Yo no descarto que en un futuro podamos tener herramientas de reconocimiento facial tan precisas que haga sentido utilizarlas masivamente en nuestras ciudades. Sin embargo, para llegar a ese futuro primero tenemos que establecer cuales son las reglas para que el uso de esta tecnología no se nos salga de control.

🚳 Grubhub Cancela Su Uber

Hace un mes hablamos de que Uber estaba evaluando adquirir a Grubhub, uno de sus mayores competidores en Estados Unidos y nos preguntamos si, incluso si lograban un acuerdo, las autoridades anticompetencia en EEUU permitirían que la adquisición se diera:

Si la adquisición es exitosa, algo que parecería podría ocurrir en las próximas semanas, Uber lograría posicionarse como el jugador más importante en el sector de domicilios de comida en EEUU, con alrededor de 50% del mercado (UberEats hoy tiene un 20% y Grubhub un 30%).
Obviamente, la gran pregunta aquí es si las autoridades regulatorias en EEUU permitirían que la adquisición ocurra y Uber consolide gran parte del mercado.

Bueno, Uber ya no va a tener que preocuparse por argumentar su caso:

Just Eat Takeaway — the European company that only just got its own $7.8 billion merger approved by regulators in April of this year — officially announced that it has reached an agreement to acquire Grubhub in the U.S. in an all-share deal for an enterprise value of $7.3 billion

El anuncio pone a Uber en una situación dificil, no solo porque significa que Grubhub ahora será un rival más formidable, si no porque cierra la posibilidad de que el gigante de la economía compartida pueda compensar las pérdidas que está teniendo en su vertical de transporte de personas con los domicilios de comida.

Sin embargo, esto no significa que Uber se queda sin opciones de compañías en el sector que podría adquirir. Por el contrario, el mercado de domicilios de comida sigue siendo uno poco rentable y que muy seguramente se seguirá consolidando en el próximo año.

La pregunta realmente está en cuán rápido puede moverse Uber para asegurar ser quién consolide buena parte del mercado y evitar que su competencia siga ganando terreno.

🦚 Twitter Continúa Luchando Contra los Fake News

En las últimas semanas hemos hablado mucho de las diferentes estrategias que Twitter y Facebook están utilizando para evitar que noticias falsas se vuelvan virales en sus plataformas. Twitter en particular ha estado rápidamente incrementando sus esfuerzos en preparación para las elecciones presidenciales de EEUU de noviembre.

Esta semana, Twitter nuevamente se vió en las noticias por un par de decisiones que implementaron. La primera, fue introducir una nueva funcionalidad (por ahora en pruebas) que buscaría evitar que la gente comparta artículos sin antes haberlos leído.

Básicamente, a la hora de retuitear algún artículo, Twitter primero te sugerirá que lo leas antes de poder compartirlo con tu lista de seguidores. La medida de cierta manera, busca limitar el alcance de aquellos artículos con titulares llamativos pero cuyo contenido viene de fuentes cuestionables.

Facebook implementó una funcionalidad más o menos similar hace unos meses en WhatsApp que limita el número de veces que un mensaje puede ser reenviado. De acuerdo con Facebook, la funcionalidad ha reducido el número de mensajes virales siendo compartidos en un 70%.

Por otro lado, Twitter también anunció que había eliminado cerca de 150.000 cuentas controladas por el Partido Comunista Chino que se encontraban compartiendo información falsa sobre las protestas en Hong Kong y el manejo de China en su respuesta al coronavirus.

Como hemos hablado en repetidas ocasiones en este newsletter, Facebook y Twitter son responsables de hacer todo lo que puedan por evitar que sus plataformas continuen siendo utilizadas para desinformar a la gente. Iniciativas como estas son un paso correcto y necesario, pero no significan que son suficiente.

En los últimos años hemos visto el efecto que los fake news pueden tener en el mundo real y, tal como hablamos hace unas semanas, ese efecto podría incluso afectar la futura vacuna contra el coronavirus. Todavía más razón para pisar el acelerador y atacar de frente el problema.

🚛 Nikola, no Tesla, solo Nikola

??? … ok?

The aspiring battery-electric and hydrogen fuel-cell truck maker debuted on the Nasdaq last week following a reverse merger and its stock quickly took off, doubling on Monday and rising another 28% shortly after Tuesday’s open. Trading was halted twice within the first 40 minutes due to volatility, with the shares plunging as much as 22%. They were back up almost 8% as of noon in New York.
The $34 billion market capitalization Nikola had at the intraday peak belies the company’s fundamentals. Nikola is forecasting zero revenue for 2020 and its first $1 billion year in 2023. It doesn’t expect to be fully utilizing an Arizona assembly plant that it hasn’t built yet until 2028.
And yet Ford Motor Co., which is expected to report about $115 billion of revenue for this year, has trailed Nikola by market cap at several points in intraday trading. Many skeptics have questioned for years how much electric-car maker Tesla Inc. should be worth. But with Nikola, investors have taken appraisals of zero-emission vehicle manufacturers named after a celebrated Serbian-American inventor into the stratosphere.