AI 유토피아인가 디스토피아인가? 판도라의 상자를 풀기 전에 재귀 쌍곡선 이해하기

프리덤 프리텀

따르다

시뮬라크럼

듣다

공유하다

Marc Andreessen은 최근 AI가 어떻게 세상을 구할 것인지에 대한 흥미로운 글을 썼습니다. 나는 그의 몇 가지 요점에 동의하고 있으며 종말 시나리오를 부르는 극단주의자들을 불러낸 그를 응원합니다. 나는 그가 다루고 있는 특정 기사에 대한 비유와 링크를 좋아합니다. 나는 심지어 그가 하는 마지막 제안도 좋아한다. 브라보!

그러나 그는 '도덕적 패닉', 'AI 안전 숭배'와 같은 용어를 사용하여 사고 과정을 선전의 형태로 나누기 시작하고 AI를 억제하려는 사람들을 거의 모두 포괄하기 시작하면서 나를 잃었습니다. AI 안전을 위해 노력하고 있습니다! 모든 사람이 수사학을 사용하는 것은 아닙니다. 실제로 "당신 편"에 있는 사람들을 위해 파라 또는 섹션을 할당하고 AI 안전이 현실적이고 현재의 위험이기 때문에 이에 집중할 수도 있습니다. 쿨하지 않아!

단기적 이익에 초점을 맞추기보다 '상대방'은 이해하지 못한다고 호언장담하고 유토피아적 입장도 취하는 극단적인 입장을 취했다. 내 말은, 다른 쪽은요? 어느 '컬트'?

마크의 유토피아와 그가 정당하게 디스토피아를 그리는 다른 모든 사람들에 대한 이러한 견해는 믿기지 않으며 진실과는 거리가 멀습니다. 분명히 말씀드리자면, 저는 마크를 벤처 투자가로서 존경하지만 그가 이 주제에 대해서는 자신의 수준을 벗어났다고 생각합니다. 공격하려는 의도는 없지만, 특히 AI의 블랙박스에 숨어 있는 수학적 복잡성을 고려할 때 심층적인 기술 토론에 참여할 수 있을지 의문입니다.

마크가 제시하는 것은 대체로 그의 도덕적 세계관인데, 아이러니하게도 그는 수용소, 이단, 침례교도, 밀매업자들이 사용한다고 비난하는 것과 똑같은 넓은 붓으로 그 세계관을 그립니다. 그러한 사람들 대부분을 AI 투자를 활용하기 위해 도덕적 선함/나쁨 및 미덕/악덕에 대한 선정주의를 불러일으키려는 "불시도 예술가"라고 부르고 싶은 유혹을 받을 수도 있습니다. 단어를 사용하는 것이 어떻게 감정을 불러일으키고 솔직하게 말하면 부주의할 수 있는지 아시나요? 하지만 그렇게 한다면 우리도 그들보다 나을 것이 없을 것입니다. 유토피아나 디스토피아에 대한 그러한 접근 방식은 환원주의적이고 당면한 실제 문제를 손상시키며 솔직히 말해서 다소 유치합니다.

기술에 있어서 AI는 독보적인 위치에 있습니다. 인공지능과 과거의 다른 기술 혁신 사이에 유사점을 찾는 것은 엄청난 실수입니다. 과거 러다이트(Luddites)의 주장인 기술에 대한 역사적 저항은 AI가 우리에게 제시하는 기념비적인 도전을 포괄할 수 없습니다. AI는 단순히 기하급수적으로 발전한 것이 아니라, 우리가 역사상 본 것과는 다른 현상인 반복적 쌍곡선 특성을 나타냅니다. AI 혁명은 다윈주의 원칙이 오늘날에도 완전히 이해하기 어려운 사건인 캄브리아기 폭발과 유사합니다.

제 생각에는 AI의 영향을 예측하는 현재의 모든 경제 모델은 상당히 다윈주의적입니다. 솔직히 말해서, 우리 중 누구도 미래를 확실하게 예측하는 방법을 모르기 때문에 앞으로 일어날 일에 대한 그림을 그릴 때 우리를 다소 무지하게 만듭니다. 그것이 디스토피아적일지, 유토피아적일지, 아니면 그 중간일지는 알 수 없습니다. 우리가 할 수 있는 일은 이 짐승의 본질을 최대한 포괄적이고 신속하게 이해하는 데 집중하는 것 뿐이다.

예를 들어, 쌍곡선 성장의 특성은 일반적으로 Riccati 미분 방정식으로 포착됩니다. 그러나 천문학적인 속도로 지능을 스스로 영속시키는 J 곡선 특유의 재귀 쌍곡선의 미지의 영역에는 정의된 모델이 부족합니다. 우리가 전례 없는 기술 도약의 벼랑에 서 있는 상황에서 과거의 경제 예측을 미래의 지침으로 삼는 것은 우리를 잘못된 길로 이끌기만 할 것입니다.

종말 시나리오에 초점을 맞춘 극단주의자들이 있다 하더라도 왜 그들에게 초점을 맞추는가? 그것들은 중요하지 않습니다. 정책 입안과 규제에 관한 것이라면 저는 Marc의 편입니다. 극단적인 규제 조치가 취해지지 않도록 투쟁합시다. 그렇지 않다면 왜 안전 조치를 구축하기 위해 열심히 노력하는 모든 사람을 "많은 독자들이 사회 파괴를 피하기 위해 AI 출력에 대한 극적인 제한이 필요하다고 주장할 준비가 되어 있다는 것을 알게 될 것"이라는 버스 아래에 던져야 합니까? 솔직하게 말하면 부주의합니다.