(KOR) AI와 지속 가능한 엔지니어링 — 생성은 빠르게, 검증은 철저하게

영어 원문: https://www.linkedin.com/pulse/ai-sustainable-engineering-generate-fast-verify-thoroughly-yoon-hclqf/

[공지 / 면책 조항]

이 글에 표현된 모든 견해는 전적으로 저 개인의 것이며, 소속 회사의 입장이나 의견을 대변하지 않습니다. 이 글에서 인용된 모든 내용은 외부에 공개된(publicly available) 자료에 기반합니다.

기술부채를 넘어 이해부채와 인지부채에 대비하는 우리의 자세

우리는 지금 소프트웨어 엔지니어링의 생산성과 운영 방식이 빠르게 재정의되는 시기를 지나고 있다.

AI는 코드 생성, 테스트, 배포, 운영 등 개발의 거의 모든 단계를 변화시키고 있다. 작은 팀이 더 빠르게 움직이며 더 큰 임팩트를 만들 수 있는 시대가 열리고 있고, 엔지니어 한 사람 한 사람의 ownership 역시 더욱 중요해지고 있다.

그리고 나는 이 변화가 엔지니어에게 매우 큰 기회라고 생각한다.

다만 동시에, AI 시대일수록 우리가 더 의도적으로 지켜야 하는 가치들도 있다고 생각한다. 빠르게 만드는 능력만큼, 깊이 이해하고 안정적으로 운영하는 능력 역시 더욱 중요해지고 있다.

AI는 이미 강력한 엔지니어링 가속기다

최근 클라우드 인프라 리소스 최적화와 관련된 작업을 진행하면서 AI의 생산성 향상을 직접 체감할 기회가 있었다.

리소스 인벤토리 추출, 사용량 분석, deprecation 대상 식별, 마이그레이션 우선순위 도출 등 수동으로 했다면 상당한 시간이 필요했을 작업들이 AI의 도움으로 훨씬 빠르게 진행될 수 있었다. AI의 도움으로, 수동으로 했다면 몇 주 이상 걸렸을 작업을 단 며칠 만에 마칠 수 있었다.

이런 경험은 이제 업계 전반에서 자연스러운 흐름이 되고 있다. 여러 공개 자료에서 AI가 코드 작성과 운영 자동화 영역에서 이미 높은 생산성 향상을 보여주고 있으며, 많은 엔지니어링 조직들이 이를 적극적으로 활용하고 있다.

하지만 여기서 흥미로운 점이 있었다.

생성은 빨랐지만, "이 결과가 정말 시스템 구조와 운영 환경에 맞는가?"를 검증하는 과정은 여전히 사람의 몫이었다.

AI가 생성한 분석 결과와 권장사항을 하나하나 검토하면서 느낀 것은, 결국 중요한 것은 단순한 활용 능력이 아니라 시스템에 대한 깊은 이해와 운영 경험이라는 점이었다.

AI는 훌륭한 시작점을 제공한다. 하지만 최종 품질과 책임은 여전히 엔지니어에게 남는다.

새로운 종류의 운영 과제가 등장하고 있다

우리는 이미 기술부채(Technical Debt)라는 개념에 익숙하다. 빠른 delivery를 위해 미뤄둔 리팩토링, 충분히 문서화되지 않은 설계 결정, 시간이 지나며 복잡해진 시스템들.

그런데 AI 도구가 보편화되면서, 기존과는 조금 다른 형태의 과제들도 점점 중요해지고 있다고 느낀다.

이해부채 (Comprehension Debt)

AI가 생성한 코드가 정상적으로 동작하고 테스트도 통과한다. 하지만 시간이 지나고 나면 팀 안에서 그 코드의 내부 동작 원리를 충분히 설명할 수 있는 사람이 줄어드는 현상이다.

겉으로는 문제가 없어 보일 수 있다. CI/CD도 통과하고 서비스도 정상 동작한다. 하지만 몇 달 뒤 해당 시스템을 수정하거나 장애를 분석해야 하는 순간, 팀의 이해도가 부족하면 유지보수 난이도는 급격히 높아질 수 있다.

2026년 현재 상업 코드의 41%가 AI의 도움으로 작성되고 있다 (GitClear/Sonar 2026). 생산성은 올랐지만, 코드 변동률(churn)은 2배, 코드 복제는 4배 증가했다. AI 시대에는 "빠르게 만드는 능력"만큼이나, "왜 그렇게 동작하는지 설명할 수 있는 능력"이 점점 더 중요해질 수 있다고 생각한다.

인지부채 (Cognitive Debt)

또 하나 흥미로운 개념은 인지부채(Cognitive Debt)다. Appian CEO Matt Calkins가 2026년 4월에 제시한 이 개념은, AI 도입을 가속하는 조직들이 함께 고민해야 할 거버넌스 과제를 정확히 짚는다.

AI 덕분에 새로운 도구와 자동화를 훨씬 쉽게 만들 수 있게 되었지만, 시간이 지나면 조직이 관리하고 이해해야 하는 시스템의 수 역시 빠르게 증가한다. 그리고 어느 순간부터는, 새로운 기능을 만드는 속도보다 전체 시스템을 이해하고 거버넌스하는 속도가 더 중요해질 수 있다.

CAST의 분석에 따르면, 3,000개 기업의 100억 줄 이상의 코드를 분석한 결과, 전 세계 기술부채 해소에 필요한 작업량은 610억 작업일에 달한다. 이것은 AI의 문제가 아니라, 오히려 AI가 너무 강력하기 때문에 발생하는 새로운 운영 과제에 가깝다.

자동화 시대의 엔지니어 역량

1983년 Lisanne Bainbridge는 "자동화의 아이러니(Ironies of Automation)"라는 개념을 제시했다. 핵심은 단순하다.

자동화가 많아질수록 사람은 더 적은 일을 하게 되지만, 정작 사람이 개입해야 하는 순간은 가장 어렵고 예외적인 상황이 된다.

그리고 자동화가 대부분을 처리하는 동안, 사람은 시스템 내부를 깊이 이해할 기회를 점점 잃게 될 수도 있다.

나는 이 개념이 AI 시대에 더욱 중요해지고 있다고 생각한다. AI는 반복 작업을 크게 줄여준다. 하지만 장애 대응, 트레이드오프 판단, 예상치 못한 운영 이슈 분석처럼 모호성과 복잡성이 높은 영역은 여전히 사람의 역할로 남는다.

이것은 AI의 한계에 대한 이야기가 아니다. AI를 활용하면서도 시스템 이해도를 계속 유지하기 위해, 우리가 어떤 역량을 의도적으로 키워야 하는지에 대한 이야기다.

생성은 빠르게, 검증은 철저하게

여러 엔지니어링 조직들이 공통적으로 강조하는 방향도 크게 다르지 않다.

1. AI를 가속기로 활용하기

AI는 반복적이고 시간이 많이 드는 작업을 크게 줄여준다. 최종 설계 판단, 운영 안정성 검토, 시스템 간 트레이드오프 분석은 여전히 엔지니어의 중요한 역할이다. AI가 만들어준 결과물을 검증하고 개선할 수 있는 능력은 앞으로 더욱 중요한 역량이 될 것이다.

AWS가 공개한 AI-DLC(AI-Driven Development Life Cycle) 프레임워크도 같은 방향을 제시한다. 특히 "Collaborative by design" — AI가 더 많은 것을 해줄수록, 사람의 검증 역할을 의도적으로 설계에 포함시켜야 한다는 원칙이 인상적이다.

2. "동작하는가?"를 넘어 "설명할 수 있는가?"를 확인하기

이것은 코드에만 해당하는 이야기가 아니다. AI가 생성한 아키텍처 문서, 설계 문서, 분석 보고서 — 모두 마찬가지다. AI가 초안을 만들어주는 것은 훌륭한 가속기다. 그리고 그 결과물에 자신의 이름을 올리는 순간, 그것은 당신의 것이 된다.

AI가 만들어준 것이든, 직접 작성한 것이든, 자신의 이름이 올라간 결과물을 한 줄 한 줄 설명할 수 있다면 정말 훌륭할 것이고, 더 높은 기준의 엔지니어로 가는 길일 것이다.

내가 처음부터 직접 작성했다면, 정말 이렇게 설계했을까?

이 질문에 스스로 납득할 수 있을 때까지 검증하는 과정이 중요하다고 생각한다.

3. 운영 경험을 의도적으로 축적하기

온콜, 장애 대응, RCA(Root Cause Analysis), dependency 분석 같은 경험은 단순한 유지보수 작업이 아니라 시스템 이해도를 높여주는 매우 중요한 학습 과정이다.

Dr. Richard Cook은 이렇게 말했다.

"장애 없는 운영은 장애 경험을 필요로 한다 (Failure-free operations require experience with failure)."

역설적으로 들릴 수 있지만, 운영 전문성이 어떻게 만들어지는지에 대한 본질을 정확히 짚는 말이다. AI 시대일수록 이런 경험의 가치는 오히려 더 올라갈 수 있다고 생각한다.

4. 만드는 것만큼 정리하는 것에 투자하기

새로운 시스템과 자동화를 만드는 것은 점점 쉬워지고 있다. 하지만 장기적으로 더 중요한 것은, 불필요한 리소스를 제거하고, 시스템을 단순화하고, 남아 있는 구조를 팀이 이해할 수 있도록 유지하는 일일 수 있다.

내가 클라우드 리소스 정리를 하면서 느낀 것도 이것이다 — AI가 리스트를 뽑아주는 것은 빨랐지만, 각 리소스의 의존성과 영향도를 파악하고 deprecation 순서를 결정하는 것은 시스템을 이해하는 사람이 해야 하는 일이었다.

5. 기본기에 다시 투자하기

자료구조, 알고리즘, 시스템 설계, 네트워킹 — 이런 기본기는 유행을 타지 않는다. AI 도구가 아무리 발전해도, 복잡한 장애 상황에서 문제를 구조적으로 분석하고, 시스템 전체 관점에서 판단을 내리는 능력은 결국 기본기와 경험에서 나온다.

시스템이 복잡해질수록 이 기본기의 가치는 올라간다.

지속 가능한 속도

AI를 잘 활용하는 것은 이미 모든 엔지니어의 기본 역량이 되어가고 있다. 거기에 더해, 시스템을 깊이 이해하는 능력을 갖춘 엔지니어가 앞으로 더 큰 가치를 만들어낼 것이라고 생각한다.

조직에서도 AI를 활용해 빠르게 만드는 것은 물론 중요하고 매우 의미 있는 일이다. 이와 더불어 만든 것을 안정적으로 운영하고 유지하는 능력이 장기적 경쟁력을 결정할 수 있다고 보태고 싶다. 현재 팀이 기술부채뿐 아니라 이해부채, 인지부채를 관리할 수 있는 팀이 된다면, 더더욱 장기적으로 훌륭한 팀이 되고 서로 시너지를 높이면서도 조직 전체에도 도움이 될 수 있다고 본다.

이것은 비용 절감이 아니라, 지속 가능한 속도(Sustainable Velocity)에 대한 이야기이다.

마무리

우리는 정말 큰 변곡점 한가운데에 있다.

AI는 엔지니어링 생산성을 극적으로 높여주고 있고, 앞으로도 이 흐름은 계속 가속될 것이다. 이것은 엔지니어에게 위기라기보다, 오히려 더 큰 기회에 가깝다고 생각한다.

다만 그 속에서도, 시스템을 깊이 이해하려는 태도, 운영 경험을 축적하려는 노력, 만드는 것만큼 정리하는 문화, 그리고 생성은 빠르게 하되 검증은 철저하게 하는 습관은 앞으로 더욱 중요해질 것이다.

이것들이 앞으로 당신이 지속적으로 발전해 나가는 데 아주 큰 자산이 될 것이라고 믿는다.

빠르게 변하는 시대일수록, 변하지 않는 것의 가치가 올라간다.

 

"AI 시대의 초기 승자는 속도가 결정할 수 있다. 하지만 장기적인 성공은, 가속과 함께 이해를 지속할 수 있는 팀에게 돌아갈 것이다."

— Sunsick Yoon

AI and Sustainable Engineering — Generate Fast, Verify Thoroughly

Original Post: https://www.linkedin.com/pulse/ai-sustainable-engineering-generate-fast-verify-thoroughly-yoon-hclqf/

[Notice / Disclaimer] All opinions expressed here are solely my own and do not represent the views of my employer. All references cited in this article are based on publicly available sources.

Preparing for What Lies Beyond Technical Debt: Comprehension Debt and Cognitive Debt

We are living through a period where the productivity and operational practices of software engineering are being rapidly redefined.

AI is transforming nearly every stage of development — code generation, testing, deployment, and operations. Smaller teams can now move faster and create greater impact than ever before, and the ownership of each individual engineer has become more important than ever.

I believe this shift represents an enormous opportunity for engineers.

At the same time, I think there are values we need to be more intentional about preserving in the age of AI. The ability to deeply understand and reliably operate what we build is becoming just as important as the ability to build it quickly.

---

AI Is Already a Powerful Engineering Accelerator

I recently had the opportunity to experience AI’s productivity gains firsthand while working on a cloud infrastructure resource optimization project.

Tasks that would have taken considerable time manually — resource inventory extraction, usage analysis, deprecation target identification, and migration priority assessment — were completed in just a few days with AI assistance, a process that would have otherwise taken several weeks.

This experience is becoming the norm across the industry. OpenAI reported that their engineering team wrote code in roughly 1/10th the time compared to manual development. Google disclosed that over 25% of their new code is now AI-generated. And 61.8% of developers are already incorporating AI into their development processes.

But there was an interesting observation.

Generation was fast, but verifying whether the results truly aligned with the system architecture and operational environment was still a human responsibility.

Reviewing the AI-generated analysis and recommendations one by one, I realized that what mattered most was not the ability to use AI tools, but a deep understanding of the system and hands-on operational experience.

Lightrun’s 2026 report shows a similar pattern. 43% of AI-generated code required additional debugging after deployment — even after passing QA and staging — and validating a single AI-generated fix required an average of three manual redeployment cycles.

AI provides an excellent starting point. But the final quality and accountability still rest with the engineer.

---

New Operational Challenges Are Emerging

We are all familiar with the concept of Technical Debt — deferred refactoring for faster delivery, insufficiently documented design decisions, and systems that grow increasingly complex over time.

As AI tools become ubiquitous, I’ve noticed that new types of challenges are becoming increasingly important alongside traditional technical debt.

Comprehension Debt

AI-generated code works correctly and passes all tests. But over time, the number of people on the team who can fully explain the internal workings of that code tends to decrease.

On the surface, everything looks fine. CI/CD passes, services run normally. But when the time comes to modify that system or analyze a failure months later, insufficient team understanding can dramatically increase the difficulty of maintenance.

Currently, 41% of commercial code is written with AI assistance (GitClear/Sonar 2026). While productivity has increased, code churn has doubled and code duplication has quadrupled. In the AI era, I believe the ability to explain why something works the way it does is becoming just as important as the ability to build it quickly.

Cognitive Debt

Another compelling concept is Cognitive Debt. Introduced by Appian CEO Matt Calkins in April 2026, this concept addresses a governance challenge that every organization accelerating AI adoption needs to consider.

AI has made it significantly easier to create new tools and automation. But over time, the number of systems an organization needs to manage and understand also grows rapidly. At some point, the speed at which a team can comprehend and govern its entire system landscape may matter more than the speed at which it can build new features.

According to CAST’s analysis of over 10 billion lines of code across 3,000 companies, the global technical debt burden amounts to 61 billion workdays of remediation effort. This isn’t a problem with AI — it’s a new operational challenge that arises precisely because AI is so powerful.

---

Engineering Competencies in the Age of Automation

In 1983, Lisanne Bainbridge introduced the concept of “Ironies of Automation.” The core idea is simple:

As automation increases, humans do less — but the moments when humans must intervene become the most difficult and exceptional situations of all.

And while automation handles the majority of cases, humans may gradually lose the opportunity to deeply understand how the system works internally.

I believe this concept is becoming even more relevant in the AI era. AI dramatically reduces repetitive work. But areas with high ambiguity and complexity — incident response, trade-off decisions, and analysis of unexpected operational issues — remain firmly in the human domain.

This is not a story about the limitations of AI. It’s about what competencies we need to intentionally develop so that we can maintain deep system understanding even as AI takes on more of the work.

---

Generate Fast, Verify Thoroughly

The direction that many engineering organizations are emphasizing converges on similar principles.

1. Leverage AI as an Accelerator

AI dramatically reduces repetitive, time-consuming tasks. Final design decisions, operational stability reviews, and cross-system trade-off analyses remain critical responsibilities of the engineer. The ability to verify and improve AI-generated outputs will become an increasingly important competency.

The AI-DLC (AI-Driven Development Life Cycle) framework published by AWS points in the same direction. Its “Collaborative by design” principle is particularly noteworthy — as AI does more, the human verification role should be intentionally built into the design.

2. Go Beyond “Does It Work?” to “Can I Explain It?”

This applies to more than just code. Architecture documents, design documents, analysis reports generated by AI — all the same. AI as a drafting accelerator is excellent. But the moment you put your name on the output, it becomes yours.

Whether AI created it or you wrote it yourself, being able to explain every line of a deliverable that carries your name would be truly impressive — and a path toward becoming a higher-caliber engineer.

A good benchmark is this:

“If I had written this from scratch myself, would I really have designed it this way?”

I believe the process of verifying until you can honestly answer “yes” to that question is what matters most.

3. Intentionally Accumulate Operational Experience

On-call rotations, incident response, Root Cause Analysis (RCA), and dependency mapping are not mere maintenance tasks — they are invaluable learning processes that deepen system understanding.

As Dr. Richard Cook observed, “Failure free operations require experience with failure.” In the AI era, the value of such experience may actually increase.

It may sound paradoxical, but it captures something essential about how operational expertise is built.

4. Invest in Tidying Up as Much as in Building

Creating new systems and automation is getting easier every day. But what may matter more in the long run is removing unnecessary resources, simplifying systems, and maintaining structures that the team can understand.

This is something I felt strongly during my own cloud resource cleanup work — AI was fast at generating the inventory, but assessing each resource’s dependencies and impact, and determining the deprecation sequence, required someone who understood the system.

5. Reinvest in Fundamentals

Data structures, algorithms, system design, networking — these fundamentals never go out of style. No matter how advanced AI tools become, the ability to structurally analyze problems during complex failures and make judgments from a whole-system perspective ultimately comes from fundamentals and experience.

As systems grow more complex, the value of these fundamentals only increases.

---

Sustainable Velocity

Using AI effectively is already becoming a baseline competency for every engineer. Beyond that, I believe engineers who combine AI proficiency with deep system understanding will create the greatest value going forward.

AI-powered rapid development is, of course, important and highly meaningful for any organization. I would add that the ability to reliably operate and maintain what has been built may determine long-term competitiveness. If a team can manage not only technical debt but also comprehension debt and cognitive debt, it will become an even stronger team over time — one that amplifies synergy while contributing to the broader organization.

This is not about cost reduction. It’s about Sustainable Velocity.

---

Closing Thoughts

We are in the middle of a truly significant inflection point.

AI is dramatically expanding what engineers can achieve, and this trend will only accelerate. I see this as an opportunity for engineers, not a threat.

Yet within this acceleration, certain things will become even more important: the commitment to deeply understanding our systems, the effort to accumulate operational experience, the culture of tidying up as much as we build, and the discipline of generating fast while verifying thoroughly.

I believe these will be tremendous assets in your continued growth as an engineer.

In an era of rapid change, the value of what doesn’t change only goes up.

"Speed may define the early winners in the AI era, but long-term success will belong to the teams that can sustain understanding alongside acceleration." — Sunsick Yoon

What's your thought?