How Artificial Intelligence and Large Language Models Are Reshaping Modern Knowledge Architecture

 A technical diagram illustrating how Large Language Models (LLMs), trained on human language data, reshape the knowledge architecture of modern civilization into an organic network through a multi-dimensional vector space.

How Artificial Intelligence and Large Language Models Are Reshaping Modern Knowledge Architecture

Explore how LLMs reshape access to knowledge while creating new risks of error, bias, dependence, and unequal access.

The Emergence of a New Interface for Knowledge

The rapid development of artificial intelligence, particularly Large Language Models, is changing how people search for, organize, interpret, and produce information. Systems trained on large collections of text can generate coherent responses, summarize documents, translate languages, write computer code, and reorganize information according to a user’s request.

This development does not mean that humanity’s traditional stores of knowledge have been converted into neural networks. Books, libraries, archives, databases, and digital documents continue to preserve knowledge in external and relatively stable forms. An LLM adds a new interface through which information can be generated, reorganized, and accessed, but it does not replace the original records on which reliable knowledge depends.

The Transformer architecture, introduced in 2017, made it possible to process relationships among elements of a sequence through attention mechanisms rather than relying entirely on recurrent processing. This architecture allowed language models to be trained efficiently at increasing scales and to identify complex statistical patterns across large bodies of text.

Artificial neural networks were historically inspired by biological neurons, but modern Transformers should not be treated as direct models of the human brain. Their components perform mathematical operations designed by researchers and engineers. During training, optimization procedures adjust large numbers of parameters so that the model becomes better at predicting or reconstructing linguistic patterns.

The model does not independently choose its educational goals or create its own training environment. Its capabilities depend on human decisions about architecture, data selection, training objectives, evaluation, computational infrastructure, and subsequent refinement. Even forms of self-supervised learning operate within systems and objectives established by people.

Within an LLM, linguistic patterns are represented through distributed numerical relationships rather than through a catalog of complete sentences or a conventional database of verified facts. Words, phrases, and concepts can be represented in high-dimensional spaces that reflect patterns of similarity and association found in the training data.

This structure allows the model to produce responses that are sensitive to context and to perform some tasks that resemble reasoning. Nevertheless, contextual performance should not automatically be equated with human understanding. Whether a model understands meaning in the same sense as an embodied and conscious person remains scientifically and philosophically unresolved.

An LLM may therefore be described as a compressed model of patterns found in human-produced data, but not as a complete compression of humanity’s collective intelligence. Its training material contains knowledge, argument, creativity, and cultural memory, but it may also contain errors, prejudices, contradictions, omissions, and unequal representations of languages and communities.

The central transformation is not the replacement of knowledge by a neural network. It is the emergence of a conversational and generative layer between people and existing knowledge systems. Instead of navigating every document directly, a person can ask a model to synthesize material into an immediate response. This increases accessibility, but it also creates a new distance between the original source and the information received.

Expanded Access and the Unequal Distribution of Capability

Large Language Models can lower some barriers to specialized knowledge. They can explain technical concepts in accessible language, translate materials, assist with coding, compare arguments, summarize complex documents, and help users formulate questions that they might otherwise struggle to express.

These capabilities may broaden participation in education, research, and creative work. A person without advanced technical training can receive assistance with an unfamiliar subject, while specialists can use the same systems to explore information outside their primary fields. LLMs can therefore support communication across disciplinary and linguistic boundaries.

This potential is sometimes described as the democratization of knowledge. The expression is useful only if it does not conceal continuing inequalities. Access to high-quality models may depend on cost, internet infrastructure, language, location, disability support, digital literacy, and institutional resources. A technology can lower one barrier while creating or reinforcing another.

Access to an explanation is also not identical to possession of expertise. Legal analysis requires knowledge of jurisdiction, precedent, procedure, and professional responsibility. Medical interpretation requires clinical evidence, patient history, diagnostic judgment, and accountability. LLMs can assist with preliminary explanation or document review, but their output should not be treated as a substitute for qualified professional judgment in high-stakes situations.

The benefits of these models likewise cannot be measured only by the speed at which they produce answers. They can reduce the time required for routine drafting, translation, classification, and information retrieval. They may also help researchers identify connections across large collections of material. Whether these efficiencies produce deeper understanding depends on how the output is examined, corrected, and incorporated into human inquiry.

One of the most significant limitations of LLMs is their capacity to generate false or unsupported statements in persuasive language. This problem is commonly called hallucination and is also described as confabulation. It occurs because the model generates output according to learned patterns and contextual probabilities rather than verifying every statement against an authoritative record.

Such errors do not constitute intentional lies because the model does not possess a demonstrated intention to deceive. Their danger arises from the combination of linguistic fluency and uncertain factual reliability. A confident style can make an unsupported answer appear more trustworthy than it is.

Bias presents a related problem. Models trained on human-produced data can reproduce historical stereotypes, dominant cultural assumptions, and unequal patterns of representation. Additional training and safety measures can reduce particular forms of harm, but no technical procedure automatically removes every social judgment embedded in the data or the design of the system.

The growing use of a small number of foundation models may also produce informational homogenization. If many institutions rely on similar systems for writing, summarization, search, and decision support, errors or assumptions embedded in those systems can be repeated across many downstream applications. Increased access may therefore coexist with a concentration of technical and interpretive power.

A further concern is cognitive dependence. If users consistently delegate reading, comparison, formulation, and verification to AI, they may practice these abilities less frequently. However, intellectual decline is not an inevitable consequence of using an LLM. The same technology can support thought when it is used to generate alternatives, expose assumptions, test explanations, or identify questions requiring further investigation.

The decisive distinction lies between substitution and augmentation. When AI replaces the entire process of inquiry, convenience may weaken understanding. When it supports a process that still includes reading, verification, reflection, and revision, it can extend human capacity without removing human agency.

Human-Centered Knowledge Architecture in the Age of AI

The fluency of a Large Language Model should not be confused with consciousness, experience, or moral agency. Current systems can produce language about suffering, responsibility, and purpose, but there is no established evidence that they experience the conditions they describe.

At the same time, describing an LLM as a mere arrangement of copied phrases is also inaccurate. Its responses are generated through learned distributed representations and multiple layers of mathematical computation. The system does not ordinarily retrieve and combine fixed passages in the manner of a mechanical collage, even though particular training content may sometimes be reproduced.

A precise description must therefore avoid two opposing errors. An LLM should neither be personified as an independent thinker nor dismissed as a simple database. It is a computational model capable of generating complex linguistic outputs from patterns learned through large-scale training.

Because the system itself is not an established moral agent, responsibility remains with the people and institutions that design, deploy, regulate, and use it. This responsibility includes decisions about training data, privacy, labor, environmental cost, security, accessibility, evaluation, and the situations in which automated output may influence human lives.

Human-centered knowledge architecture does not require rejecting artificial intelligence. It requires designing relationships among people, models, sources, and institutions so that each performs an appropriate function. Models can assist with generation and comparison, documents can preserve evidence, experts can evaluate domain-specific claims, and accountable institutions can establish rules for consequential uses.

Source transparency is essential within this architecture. A fluent answer should be treated as a provisional synthesis unless its claims can be traced to reliable evidence. Systems that connect generated responses to identifiable documents can improve verification, but retrieved sources must still be examined for relevance, authority, and accurate interpretation.

AI literacy must therefore include more than the ability to write effective prompts. It requires understanding that model outputs are probabilistic, recognizing situations in which errors may cause serious harm, checking sources, comparing interpretations, protecting sensitive information, and knowing when human expertise is necessary.

The growth of artificial intelligence also renews a fundamental philosophical question: what forms of judgment should remain under meaningful human control? The answer cannot rest on the assumption that humans are always correct. Human beings also make errors and reproduce bias. The difference is that social and legal systems can assign duties, demand explanations, and impose responsibility on human actors and institutions.

Human contribution is not limited to adding meaning after a machine has produced knowledge. People formulate the questions, determine what counts as evidence, select the values guiding evaluation, interpret consequences, accept responsibility, and decide which purposes a knowledge system should serve. These functions are part of knowledge production itself.

Large Language Models can become powerful instruments for intellectual work, but their civilizational value will depend on the structures surrounding them. A model embedded in transparent, pluralistic, and accountable institutions may expand access and inquiry. The same model used without verification or concentrated under unaccountable power may amplify error, dependency, and inequality.

The future of knowledge architecture will therefore not be determined by technical capability alone. It will emerge from the relationship between computational scale and human judgment, automated generation and verifiable evidence, expanded access and equitable participation.

Artificial intelligence does not end the human task of understanding. It makes that task more demanding by producing answers faster than people can always verify them. The central responsibility of modern civilization is not merely to build systems that generate more information, but to preserve the human capacity to question, examine, and decide what that information should mean.

References:

Goodfellow, I., Bengio, Y., & Courville, A. (2016). 'Deep Learning'. MIT Press.

Vaswani, A., et al. (2017). 'Attention Is All You Need'. Advances in Neural Information Processing Systems, 30.

Lewis, P., et al. (2020). 'Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks'. Advances in Neural Information Processing Systems, 33, 9459–9474.

Bommasani, R., et al. (2021). 'On the Opportunities and Risks of Foundation Models'. Stanford Center for Research on Foundation Models.

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). 'On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?' Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623.

Miao, F., & Holmes, W. (2023). 'Guidance for Generative AI in Education and Research'. UNESCO.

Autio, C., Schwartz, R., Dunietz, J., Jain, S., Stanley, M., Tabassi, E., Hall, P., & Roberts, K. (2024). 'Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile'. National Institute of Standards and Technology.

Based on Ian Goodfellow, Yoshua Bengio, and Aaron Courville’s technical account of deep learning; Ashish Vaswani and colleagues’ introduction of the Transformer architecture; and Rishi Bommasani and colleagues’ analysis of the capabilities, limitations, and social risks of foundation models. The discussion of retrieval and source-based verification draws on Patrick Lewis and colleagues’ research on retrieval-augmented generation. The analysis of linguistic fluency, training-data bias, environmental cost, and informational homogenization is supported by Emily Bender and colleagues. The discussion of confabulation, accountability, human agency, equitable access, and responsible use is based on guidance from NIST and UNESCO. Claims about consciousness, moral agency, meaning, and the proper relationship between humans and AI are philosophical interpretations and are not established conclusions of computer science.

인간의 언어 데이터를 학습한 거대 언어 모델(LLM)이 다차원 벡터 공간을 통해 현대 문명의 지식 아키텍처를 유기적 네트워크로 재편하는 과정 기술도.

인공지능과 대규모 언어 모델은 현대 지식 아키텍처를 어떻게 재편하고 있는가?

LLM이 지식 접근 방식을 바꾸는 동시에 오류와 편향, 의존, 접근 격차라는 새로운 위험을 만드는 과정을 살펴봅니다.

지식을 위한 새로운 인터페이스의 등장

인공지능, 특히 대규모 언어 모델의 빠른 발전은 사람들이 정보를 검색하고 조직하고 해석하며 생산하는 방식을 변화시키고 있습니다. 방대한 텍스트 자료를 학습한 시스템은 일관된 답변을 생성하고, 문서를 요약하고, 언어를 번역하고, 컴퓨터 코드를 작성하며, 사용자의 요청에 따라 정보를 재구성할 수 있습니다.

이러한 발전이 인류의 전통적인 지식 저장소가 신경망으로 변환되었다는 뜻은 아닙니다. 책과 도서관, 기록 보관소, 데이터베이스, 디지털 문서는 외부에 존재하는 비교적 안정적인 형태로 계속 지식을 보존합니다. LLM은 정보를 생성하고 재구성하며 접근할 수 있는 새로운 인터페이스를 추가하지만, 신뢰할 수 있는 지식의 기반인 원본 기록을 대체하지는 않습니다.

2017년에 소개된 트랜스포머 아키텍처는 순환 처리 방식에 전적으로 의존하는 대신 어텐션 메커니즘을 통해 시퀀스를 구성하는 요소들 사이의 관계를 처리할 수 있게 했습니다. 이 구조는 언어 모델을 점점 더 큰 규모로 효율적으로 학습하고, 방대한 텍스트 자료에 존재하는 복잡한 통계적 패턴을 식별할 수 있게 했습니다.

인공신경망은 역사적으로 생물학적 뉴런에서 영감을 얻었지만, 현대의 트랜스포머를 인간 두뇌의 직접적인 모형으로 간주해서는 안 됩니다. 트랜스포머를 구성하는 요소들은 연구자와 기술자가 설계한 수학적 연산을 수행합니다. 학습 과정에서는 최적화 절차를 통해 수많은 매개변수의 값을 조정하여 모델이 언어적 패턴을 더 정확하게 예측하거나 복원할 수 있게 합니다.

모델은 스스로 교육 목표를 선택하거나 자체적인 학습 환경을 만들지 않습니다. 모델의 능력은 아키텍처와 데이터 선택, 학습 목표, 평가 방법, 컴퓨팅 인프라, 후속 조정에 관한 인간의 결정에 좌우됩니다. 자기지도학습도 사람들이 설정한 시스템과 목표 안에서 작동합니다.

LLM 내부에서 언어적 패턴은 완전한 문장 목록이나 검증된 사실로 구성된 전통적인 데이터베이스가 아니라, 분산된 수치적 관계를 통해 표현됩니다. 단어와 구절, 개념은 학습 데이터에서 발견된 유사성과 연관성의 패턴을 반영하는 고차원 공간 안에 표현될 수 있습니다.

이러한 구조를 통해 모델은 문맥에 민감한 응답을 생성하고, 추론과 유사해 보이는 일부 작업을 수행할 수 있습니다. 그러나 문맥을 처리하는 능력을 인간과 같은 이해와 자동으로 동일시해서는 안 됩니다. 모델이 신체와 의식을 지닌 인간과 같은 의미로 뜻을 이해하는지는 과학적·철학적으로 해결되지 않은 문제입니다.

따라서 LLM을 인간이 생산한 데이터에서 발견되는 패턴을 압축한 모델로 설명할 수는 있지만, 인류의 집단지성을 완전하게 압축한 것으로 설명할 수는 없습니다. 학습 자료에는 지식과 논증, 창의성, 문화적 기억이 포함되어 있지만, 오류와 편견, 모순, 누락, 언어와 공동체 사이의 불균등한 재현도 함께 포함될 수 있습니다.

핵심적인 변화는 지식이 신경망으로 대체된 데 있지 않습니다. 사람과 기존 지식 체계 사이에 대화형·생성형 계층이 등장했다는 데 있습니다. 사람은 모든 문서를 직접 탐색하는 대신 모델에 자료를 종합하여 즉각적인 답변으로 만들도록 요청할 수 있습니다. 이는 접근성을 높이지만, 원출처와 이용자가 전달받는 정보 사이에 새로운 거리를 만들기도 합니다.

접근의 확대와 역량의 불균등한 분배

대규모 언어 모델은 전문 지식에 접근하는 일부 장벽을 낮출 수 있습니다. 기술적 개념을 이해하기 쉬운 언어로 설명하고, 자료를 번역하며, 코딩을 지원하고, 논증을 비교하고, 복잡한 문서를 요약하며, 이용자가 혼자서는 표현하기 어려운 질문을 구성하도록 도울 수 있습니다.

이러한 능력은 교육과 연구, 창작 활동에 참여할 수 있는 범위를 넓힐 수 있습니다. 고도의 기술 교육을 받지 않은 사람도 익숙하지 않은 분야에 관한 도움을 받을 수 있으며, 전문가는 자신의 주된 분야 밖에 있는 정보를 탐색하는 데 같은 시스템을 활용할 수 있습니다. 따라서 LLM은 학문과 언어의 경계를 넘는 소통을 지원할 수 있습니다.

이러한 가능성은 때때로 ‘지식의 민주화’라고 불립니다. 그러나 이 표현이 지속되는 불평등을 가리지 않을 때에만 유효합니다. 고성능 모델에 접근할 수 있는지는 비용, 인터넷 인프라, 언어, 지역, 장애인 지원, 디지털 문해력, 제도적 자원에 따라 달라질 수 있습니다. 하나의 장벽을 낮추는 기술이 다른 장벽을 만들거나 강화할 수도 있습니다.

설명에 접근할 수 있다는 사실이 전문성을 갖추었다는 뜻도 아닙니다. 법률 분석에는 관할권과 판례, 절차, 전문적 책임에 관한 지식이 필요합니다. 의료적 해석에는 임상 근거와 환자의 병력, 진단적 판단, 책임이 필요합니다. LLM은 기초적인 설명이나 문서 검토를 지원할 수 있지만, 중대한 결과가 걸린 상황에서 자격을 갖춘 전문가의 판단을 대신해서는 안 됩니다.

이러한 모델의 효용을 답변을 생성하는 속도만으로 측정할 수도 없습니다. LLM은 반복적인 초안 작성과 번역, 분류, 정보 검색에 필요한 시간을 줄일 수 있습니다. 연구자가 방대한 자료에서 관계를 식별하도록 도울 수도 있습니다. 그러나 이러한 효율성이 더 깊은 이해로 이어지는지는 출력 결과를 어떻게 검토하고 수정하며 인간의 탐구 과정에 통합하는지에 따라 달라집니다.

LLM의 가장 중요한 한계 중 하나는 거짓이거나 근거가 없는 내용을 설득력 있는 언어로 생성할 수 있다는 점입니다. 이 문제는 일반적으로 환각이라고 불리며, 작화라고도 표현됩니다. 모델이 모든 진술을 권위 있는 기록과 대조하여 검증하는 것이 아니라, 학습한 패턴과 문맥상의 확률에 따라 출력을 생성하기 때문에 발생합니다.

모델에는 속이려는 의도가 없으므로 이러한 오류를 의도적인 거짓말이라고 할 수는 없습니다. 위험은 유창한 언어 표현과 불확실한 사실적 신뢰성이 결합하는 데서 발생합니다. 확신에 찬 문체는 근거가 없는 답변을 실제보다 더 신뢰할 만한 것으로 보이게 할 수 있습니다.

편향도 이와 관련된 문제를 일으킵니다. 인간이 생산한 데이터를 학습한 모델은 역사적 고정관념과 지배적인 문화적 가정, 불균등한 재현 양식을 반복할 수 있습니다. 추가 학습과 안전 조치를 통해 특정한 피해를 줄일 수는 있지만, 어떠한 기술적 절차도 데이터나 시스템 설계에 포함된 모든 사회적 판단을 자동으로 제거하지는 못합니다.

소수의 기반 모델이 널리 사용되면 정보의 동질화가 발생할 수도 있습니다. 여러 기관이 글쓰기와 요약, 검색, 의사결정 지원에 유사한 시스템을 사용하면, 그 시스템에 포함된 오류나 가정이 수많은 후속 응용 프로그램을 통해 반복될 수 있습니다. 따라서 접근의 확대는 기술적·해석적 권력의 집중과 동시에 나타날 수 있습니다.

인지적 의존도 중요한 문제입니다. 이용자가 읽기와 비교, 문장 구성, 검증을 계속 AI에 맡기면 이러한 능력을 직접 연습하는 빈도가 줄어들 수 있습니다. 그러나 LLM을 사용한다고 해서 지적 능력이 필연적으로 저하되는 것은 아닙니다. 같은 기술도 대안을 생성하고, 전제를 드러내고, 설명을 검토하고, 추가 조사가 필요한 질문을 식별하는 데 사용하면 사고를 지원할 수 있습니다.

결정적인 차이는 대체와 증강 사이에 있습니다. AI가 탐구 과정 전체를 대신하면 편리함이 이해를 약화할 수 있습니다. 그러나 읽기와 검증, 성찰, 수정이 유지되는 과정에서 AI를 활용하면 인간의 주체성을 제거하지 않으면서 능력을 확장할 수 있습니다.

인공지능 시대의 인간 중심 지식 아키텍처

대규모 언어 모델의 유창함을 의식이나 경험, 도덕적 행위자성과 혼동해서는 안 됩니다. 현재의 시스템은 고통과 책임, 목적에 관한 언어를 생성할 수 있지만, 자신이 묘사하는 상태를 실제로 경험한다는 확립된 근거는 없습니다.

동시에 LLM을 복사된 문구를 단순히 배열하는 체계로 설명하는 것도 정확하지 않습니다. LLM의 응답은 학습된 분산 표현과 여러 층의 수학적 연산을 통해 생성됩니다. 특정 학습 내용이 그대로 재현되는 경우가 있을 수 있지만, 일반적으로 고정된 구절을 검색하여 기계적인 콜라주처럼 조합하는 방식은 아닙니다.

따라서 정확한 설명은 서로 반대되는 두 가지 오류를 모두 피해야 합니다. LLM을 독립적으로 사고하는 존재로 의인화해서도 안 되며, 단순한 데이터베이스로 축소해서도 안 됩니다. LLM은 대규모 학습을 통해 습득한 패턴을 바탕으로 복잡한 언어 출력을 생성할 수 있는 계산 모델입니다.

현재의 시스템이 검증된 도덕적 행위자가 아니므로 책임은 시스템을 설계하고 배포하고 규제하며 사용하는 사람과 기관에 남습니다. 이러한 책임에는 학습 데이터와 개인정보 보호, 노동, 환경 비용, 보안, 접근성, 평가, 자동 생성된 출력이 인간의 삶에 영향을 미칠 수 있는 사용 영역에 관한 결정이 포함됩니다.

인간 중심의 지식 아키텍처는 인공지능을 거부할 것을 요구하지 않습니다. 사람과 모델, 출처, 제도 사이의 관계를 설계하여 각각이 적절한 기능을 수행하도록 해야 합니다. 모델은 생성과 비교를 지원하고, 문서는 근거를 보존하며, 전문가는 분야별 주장을 평가하고, 책임 있는 기관은 중대한 영향을 미치는 용도에 관한 규칙을 마련할 수 있습니다.

이러한 아키텍처에서는 출처의 투명성이 필수적입니다. 유창한 답변도 그 주장을 신뢰할 수 있는 근거까지 추적할 수 없다면 잠정적인 종합으로 취급해야 합니다. 생성된 답변을 식별 가능한 문서와 연결하는 시스템은 검증 가능성을 높일 수 있지만, 검색된 출처도 관련성과 권위, 해석의 정확성을 다시 검토해야 합니다.

따라서 AI 문해력에는 효과적인 프롬프트를 작성하는 능력 이상이 포함되어야 합니다. 모델의 출력이 확률적이라는 사실을 이해하고, 오류가 심각한 피해를 일으킬 수 있는 상황을 인식하며, 출처를 확인하고, 여러 해석을 비교하고, 민감한 정보를 보호하며, 언제 인간 전문가가 필요한지를 판단할 수 있어야 합니다.

인공지능의 발전은 근본적인 철학적 질문도 다시 제기합니다. 어떤 형태의 판단을 실질적인 인간의 통제 아래에 두어야 하는가라는 질문입니다. 그 답은 인간이 언제나 옳다는 가정에 근거할 수 없습니다. 인간도 오류를 범하고 편향을 반복합니다. 차이는 사회적·법적 체계가 인간과 기관에 의무를 부여하고, 설명을 요구하며, 책임을 물을 수 있다는 데 있습니다.

인간의 역할은 기계가 지식을 생산한 뒤 그 위에 의미를 더하는 일에만 한정되지 않습니다. 인간은 질문을 만들고, 무엇을 근거로 인정할지 결정하며, 평가를 이끄는 가치를 선택하고, 결과를 해석하고, 책임을 받아들이며, 지식 체계가 어떤 목적을 위해 작동해야 하는지를 결정합니다. 이러한 기능 자체가 지식 생산의 일부입니다.

대규모 언어 모델은 지적 작업을 위한 강력한 도구가 될 수 있지만, 그 문명적 가치는 모델을 둘러싼 구조에 따라 달라집니다. 투명하고 다원적이며 책임 있는 제도 안에 배치된 모델은 지식 접근과 탐구의 범위를 확장할 수 있습니다. 검증 없이 사용되거나 책임을 지지 않는 권력에 집중된 동일한 모델은 오류와 의존, 불평등을 확대할 수 있습니다.

따라서 지식 아키텍처의 미래는 기술적 능력만으로 결정되지 않습니다. 그것은 계산 규모와 인간의 판단, 자동 생성과 검증 가능한 근거, 접근의 확대와 공정한 참여 사이의 관계를 통해 형성될 것입니다.

인공지능은 이해하려는 인간의 과제를 끝내지 않습니다. 오히려 사람이 언제나 검증할 수 있는 속도보다 더 빠르게 답변을 생성함으로써 그 과제를 더욱 어렵게 만듭니다. 현대 문명의 핵심적인 책임은 더 많은 정보를 생성하는 시스템을 만드는 데 그치지 않고, 그 정보가 무엇을 의미해야 하는지를 질문하고 검토하고 결정하는 인간의 능력을 보존하는 것입니다.

참고문헌:

굿펠로, 이언, 벤지오, 요슈아, 쿠르빌, 에런. (2016). 'Deep Learning'(딥러닝). MIT 출판부.

바스와니, 아시시 외. (2017). 'Attention Is All You Need'(어텐션만 있으면 됩니다). 신경정보처리시스템 발전 학술대회 논문집, 30.

루이스, 패트릭 외. (2020). 'Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks'(지식 집약적 자연어 처리 작업을 위한 검색 증강 생성). 신경정보처리시스템 발전 학술대회 논문집, 33, 9459–9474.

봄마사니, 리시 외. (2021). 'On the Opportunities and Risks of Foundation Models'(기반 모델의 기회와 위험에 관하여). 스탠퍼드 기반 모델 연구센터.

벤더, 에밀리 M., 게브루, 팀닛, 맥밀런메이저, 앤젤리나, 슈미첼, 슈마거릿. (2021). 'On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?'(확률적 앵무새의 위험: 언어 모델은 지나치게 커질 수 있는가?). 2021년 ACM 공정성·책임성·투명성 학술대회 논문집, 610–623.

먀오, 펑춘, 홈스, 웨인. (2023). 'Guidance for Generative AI in Education and Research'(교육과 연구에서 생성형 AI를 활용하기 위한 지침). 유네스코.

오티오, 클로이, 슈워츠, 레바, 두니츠, 제시, 자인, 쇼믹, 스탠리, 마틴, 타바시, 엘함, 홀, 패트릭, 로버츠, 카미. (2024). 'Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile'(인공지능 위험관리 프레임워크: 생성형 인공지능 프로파일). 미국 국립표준기술연구소.

이 글은 이언 굿펠로·요슈아 벤지오·에런 쿠르빌의 딥러닝에 관한 기술적 설명, 아시시 바스와니 연구진의 트랜스포머 아키텍처 원논문, 리시 봄마사니 연구진의 기반 모델의 능력과 한계 및 사회적 위험에 관한 분석을 바탕으로 작성했습니다. 검색과 출처에 근거한 검증에 관한 논의는 패트릭 루이스 연구진의 검색 증강 생성 연구를 참고했습니다. 언어적 유창함과 학습 데이터의 편향, 환경 비용, 정보의 동질화에 관한 분석은 에밀리 벤더 연구진의 연구를 근거로 했습니다. 작화와 책임성, 인간의 주체성, 공정한 접근, 책임 있는 활용에 관한 논의는 미국 국립표준기술연구소와 유네스코의 지침을 바탕으로 했습니다. 의식과 도덕적 행위자성, 의미, 인간과 AI 사이의 바람직한 관계에 관한 주장은 철학적 해석이며, 컴퓨터과학에서 확립된 결론은 아닙니다.

Previous Episode - Mass Media Epilogue - From Speech to Algorithm

Related Label - Civilization

Next Episode - Civilizational Collapse: Complexity, Diminishing Returns, and Systemic Vulnerability