17 Paola Cantarini tais pretensos benefícios há diversos perigos em potencial, com destaque para fracasso dos sistemas, custos financeiros imprevistos, ameaças acrescidas à segurança e uma imposição inaceitável aos cidadãos, sendo essencial uma avaliação independente e contínua dos riscos e uma revisão regular das práticas de gestão (Lyon; Bennett, 2008). Fala-se na existência de um verdadeiro ‘Cartel de Cartões’ envolvendo o Estado, empresas e normas técnicas, gerando grandes controvérsias em alguns países tais como Austrália, Reino Unido, Japão e França. Sou visto, logo existo. A frase reflete o desejo de ser visto em redes sociais, o que leva ao compartilhamento de dados pessoais de forma voluntária e até entusiástica, empregados pelo mercado para a personalização de anúncios com alto potencial de manipulação da escolha (pela sedução, não pela coerção) e, pois, à comoditização de nossas vidas e personas. Ao mesmo tempo haveria uma vigilância do consumidor, em um sentido positivo, voltada ao mercado de consumo, e em sentido negativo, acerca dos que não se conformam às expectativas, como aponta Oscar Gandy ao mencionar como a “discriminação racional” realizada por grandes empresas tem efeitos negativos, criando uma espiral negativa, onde os pobres se tornam mais pobres e aumenta-se a concentração de riquezas (Lyon, 2005). Relacionando-se à vigilância na área do big data destacamse a questão das inferências e o perfilamento, por meio de enorme quantidade de dados pessoais, o que é potencializado pelo papel questionável dos data brokers que vendem os dados pessoais, em atividades antiéticas e ilegais, já que não há um necessário consentimento real (informado, fragmentado, e mediante um novo consentimento a cada nova finalidade e mudança de empresa que está se beneficiando de tais dados), sendo tais dados utilizados em análise via aprendizado profundo, por meio de otimização quantitativa a fim de potencializar a manipulação comportamental e emocional, ou seja, são feitos anúncios personalizados a fim de maximizar a probabilidade de uma compra ou do tempo em uma rede social, sendo um fato fundamental na criação de desejos até então inexistentes. Como aponta Morozov (Morozov, 2018, p. 33 e ss) em 2012 o Facebook celebrou acordo com a empresa Datalogix permitindo
RkJQdWJsaXNoZXIy MjEzNzYz