workslopping

笑、そうなった。

面白かったから和訳してみたブログ

英語の方が伝わると思うので、原文も読んでほしいけど、まぁ別に楽しければ

ほとんど機械翻訳になるかもしれないが、頑張って自分らしさを出してみる

もちろん自分もよく AI を使う

一つの利点は、価値はまだあるけど、人力では絶対やらないような作業を効率化できること。

• たくさんの情報源を照合
• コードの無駄を削って検証の繰り返し
• 「もう一個を同じようにやれ」
• 記事を書く (笑)

使ってください！

実は AI のことが嫌い¹と言っているのではない。自分の足りない部分を補ってくれて、自分の優れた部分を伸ばしてくれる存在だと思う。

コードが書けなくても、自分の想像を実現できないと思わないでください。

しかし、そう思わない人がいる。

AI = 悪い

ではなぜ、何が問題なのか？

年々… じゃなくて、この数ヶ月でもAIの能力は大きく伸びたのに

なぜまだ低品質なものと結びつけるのか、疑問に思える

わかりません

そう！まさにそれが大事。

「わかりません」と言えるのが第一歩。

その答えの正確性が重要なことに関わらず、 人間は「わからない」と言いにくいものだ。²

（日本のような！！）空気を読める文化の中では尚更難しくなる。 わからない時は、答えを調べろ、自分で考えろとか言われずに感じてしまう。

Google ってあるんじゃない？なんでこっちに聞くの？

この状況だと、納得できないまま答えを受け入れざるを得ない。

自分の信用がかかっているのに、納得したふりをして自分の成果として差し出す。

同様に、学問の世界では引用が重んじられる。だからこそ、AIを使うことは著作権侵害ではないと言うのは、問題の核心を外している。

著作権は法律の問題だが、盗作は倫理の問題。

• Wikipedia記事を丸写し

• 英語の授業で、日本語から機械翻訳を使ってそのまま出す

• 他人の作品を無断で使う

こういうものは昔からある

もちろん、Wikipediaは間違うこともあるので、だから信頼できない。

だが、逆に「Wikipediaはよく間違う」とだけで、唯一の判断基準にはできない。

我々の先生は昔そう言えたのは

当時は確実に頼れなかったからだ

今は、そうではない。みんなの協力で更新や訂正が常に行われている。

「誤りがあるから」という言い訳は通用しなくなってきている。

AIも同じだ。

AIの進化に伴い、出力の質を反論とするのは難しくなる。

むしろ、AIが作る成果物が、まだ人間の本物の努力と見分けられることには感謝すべきだと言えるかもしれない。

誰の作業が問われなくなった時代、かえって誰の仕業かが問われる。

自分の使用を懸けている仕事は、しっかり当事者意識を持つべきだ。

でも、本当に気にする必要があるのだろうか。

“Vibe-coder” などは、短時間で形になるプロトタイプを作れるし、別にいいことではないか？

AI の「画家」も印象的な作品をすぐに作れる。

自分に関係なければ、気にしなくてもいいのでは。

はい。自分まで影響が及ぶ時が来る。

人との境界線

ここには二つの失敗パターンがある。

1. でもこれは、あなたの判断が問われるはずだった…

これは、人間の判断や作品づくりの過程そのものが、最終的な成果より重要なときに起きる。

意見を求めたのに「Claudeが〇〇言った」と返されるときの気持ちはわかるでしょう。

芸術の世界では、作品より過程が重視されることが多い。細部に手間をかけることは、対象読者「細かいね、、」と伝わる。そのメッセージ自体に価値がある。

もちろん、近道のためにツールを使うこと自体は悪いことではない。

そこにも段階がある。たとえば、「写真は芸術じゃない」と言うこだわり派もいる。

写真に興味がある人に出すなら、それは気にしなくていいでしょう。

結局、作者の死を意識すべきだ。

もし読者が、0.1% のAIの使用で自分の伝えたい主張が台無しになったと思うなら、対象読者を変えるか、彼らの意見を尊重するかだ。

自分でAIに聞けばいいのに、AIの回答をもとに意見を述べても役に立たないだろう。

2. これは確認されていないから、確かめないと

研究、技術的な主張、ソフトウェアのコードのように慎重な検証が必要な仕事では、最終的な成果物が何より重要だ。

読者（この場合は査読者、監査人、QA）は、自動化されたかどうかを必ずしも気にしない。むしろ、人間はミスをしやすいので、自動化されていることを望むことも多い。

だからこそ、数学、情報科学、ソフトウェア工学はAIを歓迎する。信頼できる限り、なんならすでに作業を抽象化して自動化したいと思っているからだ。

しかし、人間の仕事とAIの仕事の境界をぼかし、ミスを見逃した人に負担を押し付けると、それは信頼と責任の問題になる。

おっと。Claudeの仕業だった。すみません、AIも時々ミスをするんです。

何か思い当たることはないだろうか？

数年前、自動運転車が登場したばかりのころ、運転手とシステムのどちらにどれだけ責任があるかが議論された。

最初から明確だったのに

議論は失敗や責任の定義や、システムがどれだけ完璧になれるかについてではなかった。

議論の存在そのものが責任の帰属の枠組みがないことを証明しているのに、なぜ「誰を踏もうかな」を話し合っているのだろうか。

これは道徳的な問題ではない。自動化された判断のルールを誰が決めるのかは、明確であるべきだ。⁶

システムを作る側が、「善意」を主張し続けて責任を規制当局に丸投げすることはできない。

品質がダメならもっと頑張って良くするよ。それも無理なら、止める法律を作ればいいじゃん。

止めるの？人類の役に立つものの開発に、なぜ反対するの？

やり取りを経て、今ではシステムを改善し開発を加速させるための資金がより多く集まっている。⁷

同時に、この分野の新規参入者は、既存のプレイヤーが以前は従う必要のなかった規制に直面している。⁸

幸いなことに、まだ良識あるルールも残っている。

最近の新しいリポジトリでは、外部からのコントリビューションを明示的に禁止するようになっている。

（和訳）AIのおかげでコードを書くのは簡単になった。今の難しさは、コードを書くことではなく、レビューし、品質を高く保ち、プロダクトの一貫性を保つことにある。

— Cloudflare OSのメンテナー

今AIがあるからこそ…

Claudeにプロトタイプを作らせるだけなら安くなってきたでしょ？AIでコードベース全体を書き直して、有名なプロダクトをゼロから丸写しすれば、指標が上がって顧客にもっと売れるか試したいんだよね。

そうでしょ？

その答えが欲しいなら、Things You Should Never Do, Part 1 (2000年)を読んでほしい。私より年上の記事だけど、今でも参考になる。

The Decoherence Trapは、私がこれから書くよりずっとはっきりと同じ考えを述べている。それもぜひ読んでほしい。

私たちは早く商品を出し、小さな成功を祝い、システムを保守する次の人に負担を押し付ける。そしてこれが workslopping 問題の三つ目の要素につながる。

私たちは局所的に一貫している人を評価するが、部分同士の相互作用の数から生まれるシステム全体の一貫性の欠如は無視している。

workslopping

[名] 効率、努力、意図に関係なく、認知的な負担を他の人間に押し付ける行為。複雑な環境でよく見られ、局所的な最適化によって（誤って）報われることが多いが、結果的には差し引きでマイナスになる。

でも「私」はworkslopを作るのか？

ここまでは、主に観察者の視点から、仮定の時間軸で議論してきた。

一人称の厳密な使用はなく（「私」や「自分」は今まで三人称として使ってきた）、「現在」という感覚もなかった。

ここからは、自分自身の経験から話そう。

その環境の一部になってしまうと、完全に自覚し続けるのは簡単ではないことはわかっている。

変更に反抗するまたは起こり出す行為には、社会的にも感情的にも大きな勇気がいることである。同時に、そのアイデアに全面的に反対しているわけではないとも伝える必要がある。

締め切りがある。契約債務や負債が、同僚から同僚へ、会社から会社へと連鎖している。他の誰かが必要としている彼らの仕事を進めるために、あなたの仕事が必要なのだ。

「ちょっと待って」と言うには、機会費用を払わなければならない。

ここで第四の壁を破ってこれを言うと、偽善的に見えて、信用を失うリスクもある。

いや、私もAIでコードを書いてるから、言う資格はないよな。まぁいいだろう。

正直、この記事を構成するのが難しくて、一か月前に書き始めて、一貫性を持たせるためにゆっくり形を整えてきた。

でも、この気まずさこそが議論そのものを強くしている。

自覚しているからといって、避けやすくなるわけではないという証拠なのだ。

なぜ自分が意思決定者にならないのか？

フリーランスや起業ではなく、なぜ会社員を選んだのかとよく聞かれる。特にworksloppingについての考えを踏まえると、なおさら会社員として働きたくないではないかと思われる。

一人で働いていると、循環的で内向きの複雑化に気づくのは難しいことが多い。

入社後の最初の一週間は楽勝だった。このプロジェクトなら一日で全部できたはず。プロダクトの機能についてたくさんの構想があり、小さなプロトタイプもすぐに作れた。

でも、積み重ねを増やして、認知の限界を超えていった。

セキュリティの懸念やバグ、性能の問題はまだなかった。純粋に自分の中の混乱だった。顧客はないから、不満を持つ人もいなかった。

改めて強調したいのは、品質の低さのことではなく、これから残る負担のことだということだ。

状況は変わり、要件に異を唱えること、筋が通らないと認めること、そして自分のミスを正す意欲を持つことを学んだ。

訂正そのものが間違っていることもあるし、そのうえで「前に進めよう」と相手を説得することもある。

会社員であることの利点は、自分の仕事を別の角度から、より広い視野で見てもらえることだ。

つまり、間違えても罰が重くない。正直、間違えるのが好きなときもある。

さらに、低リスクで実験できる場を得られ、会社側も革新を続けられる。私にとっては一石二鳥だ。

認知負荷をちゃんと管理できるようになれば、いつでも戻って新しいアイデアを夢見ることができる。手遅れということは決してない。

正直、他の人にとって独立や起業に何の意味があるのかは私にはわからない。でも、それは心から尊重している。

大切に思う対象顧客に問題があるなら、それを利益のために利用したくはない。

そして、大切に思う問題があっても対象となる顧客がいないなら、その人たちのために問題を追いかけたり作り出したりはしたくない。

一人で働くときでも、このworksloppingを顧客に押し付けないと決めているからだ。

ここまで読んで気づいたかもしれないが、私はworksloppingを本質的に悪いものとしてではなく、やがてマイナスの結果を生む仕事の自然な一部として扱ってきた。

残念ながら、それはあなたにも起こるし、あなたが他の人にそれを起こしてしまうこともあるだろう。

どうか意識して、うまく管理するよう心がけてほしい。