2010년대부터 딥러닝 붐이 일면서, AI 산업은 빙대한 데이터와 막대한 자금을 가진 빅테크 기업들 중심으로 발전해왔다. 하지만 이러한 '중앙집중식' AI 개발 방식은 효율적일지 모르나 동시에 여러 문제점을 드러내고 있다.

우선 개인정보 보호와 보안 측면에서 한 곳에 모든 것을 모으는 방식의 위험성이 부각된다. 최근 몇 년간 일부 대형 기술기업의 데이터 오남용 사건과 의료 정보 유출 해킹 사고 등은 방대한 민감 정보를 단일 기관이 독점적으로 보유할 때 벌어질 수 있는 취약성을 보여주었다. AI 시대의 '석유'와 같은 데이터가 특정 기업 서버에 몰리면서 사용자들은 자신의 정보가 어떻게 쓰일지 통제하기 어렵고, 사회 전반의 신뢰도 하락을 낳는다.