Rezar para Santa Clara?

Neste caso, Santa Clara não é a santa católica - mas sim a cidade na Califórnia onde os Princípios de Santa Clara foram discutidos inicialmente.

Em 2018 uma coalização de entidades, empresas, advogados e acadêmicos se reuniu para discutir e estabelecer uma primeira versão de princípios sobre transparência e governança de moderação de conteúdo na internet. Por se reunirem na cidade de Santa Clara, CA este foi o nome do documento https://santaclaraprinciples.org/.

Ao falarmos de moderação de conteúdo há uma impressão de que o oposto, quando não há nenhuma moderação, é o ápice da liberdade de expressão. Mas aquilo que chega em nosso feed chegou através de uma série de algoritmos e rankings, que podem estar carregados de um viés - consciente ou não - de seus criadores.

Os temas de liberdade de expressão em meios digitais e o posicionamento das plataformas de Social Networking sobre moderação de conteúdo estão novamente em alta. Não apenas por causa de várias das polêmicas, cancelamentos, críticas sobre direcionamento e underscoring, mas também por toda a nova onda de difusão das ferramentas de IA Generativa.

Se pensarmos, por exemplo, no contexto das aplicações do metaverso com realidade virtual, você gostaria de poder saber que o avatar com quem você está interagindo é alinhado com a pessoa que está de fato no comando dele? Ou mais, gostaria de saber que ele é realmente um ser humano ou um IA-NPC? Virou até tema de novela: um homem adulto utilizando um avatar para interagir com crianças.

No mesmo passo da discussão de liberdade de expressão, temos a discussão de como podemos empoderar o usuário para que ele tenha condição de ter consciência sobre suas escolhas neste ambiente, e também de como o usuário pode interferir e orientar os algoritmos de acordo com suas preferências.

As soluções não estão apenas na criação de “Age Walls” ou “Moderation Walls”, mas penso que dar ao usuário as ferramentas para que ele seja o protagonista, para que possa ter consciência dos territórios que está entrando e adapte o algoritmo sejam alguns dos elementos relevantes para a evolução e maturidade desse contexto.

A luz do sol é o melhor desinfetante.

Ou seja, mais do que tudo a transparência é essencial.

Os Princípios de Santa Clara foram desenvolvidos para apoiar as empresas a cumprir com suas responsabilidades de respeitar os direitos humanos, mas em paralelo vemos uma crescente onda de proposições de leis ou instrumentos de regulação.

E por mais que estes princípios possam ajudar até na discussão da regulamentação, eles não foram criados para este fim. Independentemente, só nos EUA, nos últimos dois anos, mais de 200 propostas foram apresentadas para orientar a criação de aplicações de IA. No Brasil discutimos recentemente o Marco Civil da Internet e estamos no debate do marco regulatório da IA.

Precisamos, como sociedade, discutir as principais questões: as humanas.