A segurança está sempre em primeiro lugar no Guru, especialmente quando se trata da segurança dos dados dos clientes. Graças aos recentes avanços em IA, nunca houve um foco tão intenso na segurança no mundo da tecnologia. À medida que trabalhamos para lançar o número crescente de recursos de IA que você pode usar no Guru, também estamos nos esforçando para aprimorar nossas funcionalidades de segurança. Felizmente, isso é um pouco simples quando você já está trabalhando com uma base sólida.

Uma base de segurança e proteção

O Guru adere às melhores práticas de segurança dos dados de nossos clientes. Você pode ler sobre nossas práticas de segurança e conformidade na íntegra em nossa página de segurança, mas pode obter um resumo do que você precisa saber aqui.

Seja continuidade de negócios ou acesso a edifícios, gestão de configurações ou rotação de chaves, monitoramos padrões e registramos artefatos para apoiar nossa conformidade. Revisamos rotineiramente os padrões da indústria e regulamentos de privacidade e adaptamos nossos controles internos conforme necessário. Além da nossa auditoria anual SOC 2 para demonstrar nossa supervisão de segurança durante todo o ano, estamos sempre trabalhando duro para criar um ambiente seguro para os seus dados mais importantes.

Guru, IA e os dados da sua empresa

Por mais que estejamos focados na segurança, nossa crença na inovação é igualmente forte. Estamos constantemente buscando maneiras de integrar novos recursos e capacidades que agreguem valor ao produto. Não há como negar que a IA avançou a um ponto em que realmente complementa vários produtos SaaS, incluindo o Guru. Não considerar a IA e seu potencial para o Guru simplesmente não é uma opção, é por isso que trabalhamos tanto para trazer essas inovações ao nosso produto e clientes com segurança o mais rápido possível.

A IA generativa pode se provar uma das mais transformadoras inovações tecnológicas da nossa era, mas vem com suas preocupações únicas. Isso nos leva de volta à santidade dos dados dos clientes. É natural que clientes e empresas fiquem hesitantes em direcionar suas informações sensíveis para fontes novas e desconhecidas. Começamos a ver algumas perguntas recorrentes: Para onde está indo minha informação? Como ela será utilizada? Quem é responsável por protegê-la? Quanto tempo ela permanecerá lá?

À medida que o Guru começa a explorar serviços de IA de terceiros, fazemos isso com princípios de segurança claros que se concentram em 3 temas centrais: as plataformas que usamos, os dados dos clientes que coletamos e as maneiras como gerenciamos o armazenamento e a exclusão de dados.

Avaliações críticas em andamento de plataformas de IA de terceiros

Para ser claro: não permitiremos que qualquer parceiro de IA acesse os dados valiosos do Guru sem uma verificação minuciosa de sua tecnologia, conformidade de segurança, termos de serviço e práticas de privacidade. Já seguimos um conjunto claro de critérios ao integrar terceiros, e os fornecedores de IA não serão uma exceção. Revisaremos seu histórico de desempenho e a integridade de sua infraestrutura, e então os responsabilizaremos contratualmente conforme normas de privacidade e segurança.

Essa não é uma decisão tomada por um único indivíduo, mas um processo colaborativo envolvendo especialistas que analisam sob a perspectiva da segurança. Avaliaremos a criticidade dos dados em questão, a saúde da empresa, a integridade do hospedagem e ferramentas, e um histórico documentado de conformidade (ex: auditorias externas, testes de penetração, etc.). O provedor só pode acessar os dados de produção do Guru após uma aprovação formal de nosso CTO, e essa parceria, por padrão, será revalidada pelo menos anualmente.

Usando menos dados para fazer mais

A segurança dos dados se torna um pouco mais complicada com IA devido à natureza dos modelos de treinamento de IA. Onde os fornecedores tradicionalmente processam ou armazenam dados dos clientes, os provedores de IA buscam treinar seus modelos incorporando o maior número de conjuntos de dados possível.

Embora os modelos de treinamento sejam uma parte natural e necessária de um serviço de IA, o Guru limitará a liberação de dados dos clientes apenas às tarefas em questão. Alimentaremos o modelo de terceiros apenas com o que ele precisa para executar a função e proibiremos seu uso para treinamento em larga escala de modelos. Isso reflete diretamente a política de uso de dados da OpenAI, que diz: “Por padrão, a OpenAI não usará dados da API para treinar modelos da OpenAI ou melhorar a oferta de serviços da OpenAI.”

Mas mesmo antes que os dados dos clientes cheguem à OpenAI, eles estão limitados ao que é absolutamente necessário do lado do Guru, mantendo assim a grande maioria das informações dentro do ambiente de hospedagem protegido do Guru. Em resumo, não simplesmente abrimos as comportas dos dados dos clientes para consumo pela OpenAI. Em vez disso, recuperamos e reconciliamos dados internamente com base na tarefa inicial do cliente, permitindo que apenas aquele segmento de informação entre no fluxo de IA.

Exclusão de dados regular e manutenção

Os dados dos clientes não podem viver em perpetuidade, e faremos da exclusão de dados rotativa uma cláusula padrão em qualquer relacionamento com fornecedores de IA ou solução auto-hospedada. Limitaremos o terreno digital da IA generativa estabelecendo regras de exclusão. O objetivo é manter controle positivo de todos os dados dos clientes, implementando restrições de “tempo de vida” sempre que possível.

A OpenAI reconhece que muitos usuários não querem que seus históricos sejam salvos, por isso oferecem a possibilidade de excluir solicitações passadas. Novamente, de acordo com seus termos de uso, “Quando o histórico de chat é desativado, manteremos novas conversas por 30 dias e as revisaremos apenas quando necessário para monitorar abusos antes de excluir permanentemente.”

Embora a IA normalmente se beneficie da acumulação e agregação do maior volume de dados possível, sentimos que, quando se trata de usuários do Guru, a tranquilidade que vem com a exclusão de dados supera o benefício da retenção indefinida.

Guru, IA e o futuro

A IA generativa oferece uma variedade de melhorias na maneira como nossos usuários recuperam e compreendem informações. Embora a forma como usamos a IA seja limitada apenas pela nossa imaginação, asseguraremos que a abordemos com o devido cuidado e consistência. Nossos processos com fornecedores terceiros são testados ao longo do tempo (e auditado anualmente), e os provedores de IA passarão pela mesma escrutínio que qualquer outro fornecedor que acessa o Guru.

Conforme continuamos a explorar potenciais avenidas para o aprendizado de máquinas, não comprometeremos nossa posição de segurança subjacente no processo. Entendemos que se erodirmos a confiança e a confiança no produto, então o benefício da IA não nos trouxe nada. Permanecemos comprometidos com a verdade subjacente de que uma fonte pronta de conhecimento capacita as pessoas a fazer o seu melhor trabalho, e aproveitaremos as capacidades da IA apenas na medida em que elas melhorem o Guru.