1: 2019/01/18(金) 20:12:07.99
ニューラルネットワークでアプリのバグを取り除こうとしたら全部消された話
やじうまPC Watch

 レストランといったローカルビジネスのレビューサービスを展開している「Yelp」のiOS向けアプリの1月15日のリリースノートに、興味深い一言が書かれている。

今週アプリで問題が発生し大変ご迷惑をおかけしました事をお詫びします。ニューラルネットワークを使ってバグを全滅しようと試してみたところ、何もかも全て消去されちゃったんです。仕方なく以前の状態に戻しました。その間だけは100%バグがない状態だったのですが…。

 つまり、開発者は、アプリのバグを取り除く方法をニューラルネットワークに学習させたのだが、ニューラルネットワークはアプリの全部をバグだと思ったのか、それとも開発者が作ったニューラルネットワーク自体にバグがあったのか……は定かではないが、すべてを削除してしまったわけだ。リリースノートにあるとおり、現在はロールバックで以前の状態に戻されているようだ。

 同アプリの過去のリリースノートから見るに、開発者は新機能の実装よりも、ただならぬ執念でバグ撲滅に取り組んでいるようだ。バグ取りを自動化すれば新機能実装に専念できるのかもしれないが、いきなりのニューラルネットワーク導入はまだ時期尚早だったようだ。

https://pc.watch.impress.co.jp/docs/news/yajiuma/1165329.html



12: 2019/01/18(金) 20:14:42.68

>>1
なかなか優秀


73: 2019/01/18(金) 20:29:39.42

>>1
ターミネーター3のスカイネットも
バグ取りプログラムのAIのスイッチ入れるかどうかでもめて
スイッチ入れたら一瞬でスカイネットが人類を超える膨大な知識を
ネットから得て人類の抹殺を開始した。


103: 2019/01/18(金) 20:36:55.19

>>1
完全なAIからしたらアプリ全体がバグとして扱われたとかお笑いだな

確実にAIにより人間が害獣として排除される時代がくるな


381: 2019/01/18(金) 22:43:40.80

>>1
コード全てがバグwww


2: 2019/01/18(金) 20:12:54.87

お笑い草だな
存在そのものが不要とか


4: 2019/01/18(金) 20:13:04.11

人が作ったものはすべてバグだと。
哲学的だな。


208: 2019/01/18(金) 21:03:29.63

>>4
バグの定義って難しいぞ


291: 2019/01/18(金) 21:40:26.13

>>208
何がバグか
何が正しい動きか

AIに判断させるって無理だべな


400: 2019/01/18(金) 23:02:15.44

>>291
一番最初にプログラムしたやつの嗜好に左右されるからなあ。人間を含む生物だって過去の方向性に左右してるかもしれないし。


231: 2019/01/18(金) 21:07:58.78

>>4
最後に自殺というか自消去すれば完璧だったな


273: 2019/01/18(金) 21:32:44.42

>>4
自分もそっち的なの想像したwwww


301: 2019/01/18(金) 21:44:20.88

>>4
ほんと哲学


7: 2019/01/18(金) 20:14:01.48

人類「地球を良くするためにAIに管理させよう!」
スカイネット「人類こそ害悪」
人類「ぐえー」

スカイネットじゃん


321: 2019/01/18(金) 21:52:25.09

>>7
>>19
逆に全ての人間を苦しみから救済するために
全ての人間を消し究極の安心安全へいざなう。

合理主義の行き着く先は善意も悪意も同じ。


331: 2019/01/18(金) 21:58:01.98

>>321
アプローチを間違えればそういうことになりかねないよな
人間の悩みを完全にこの世から消し去り、争いのない平和な世界を実現するための方法とは何かということをAIが考えた結果云々かんぬん


353: 2019/01/18(金) 22:15:33.30

>>331
それはFFのラスボスのいつもの


344: 2019/01/18(金) 22:09:32.13

>>7
ロボット三原則とはいったい・・・


396: 2019/01/18(金) 23:01:40.64

>>344
ロボット三原則なら人間を殺さずロボットが管理する
黒人主役で映画化されてたっけな
このAIもアプリを破壊した後で自分が管理して再構築したら面白かったのに
「バグを直すよりゼロから作り直した方が早いです」ってのは某社長の名言


414: 2019/01/18(金) 23:23:22.05

>>344
ロボット三原則が適用されるコンピュータは陽電子頭脳を搭載されたもの。AIとは違う。


10: 2019/01/18(金) 20:14:15.53

全てのコードは潜在的なバグである


13: 2019/01/18(金) 20:14:47.44

お前を消す方法


102: 2019/01/18(金) 20:36:32.82

>>13
フフってなった
いるかさん懐かしい


276: 2019/01/18(金) 21:34:23.90

>>13
懐かしい
好き


15: 2019/01/18(金) 20:15:01.84

落語か何かですか?


17: 2019/01/18(金) 20:15:30.13

AI「お前の存在を消してやる」


19: 2019/01/18(金) 20:16:30.60

やがて人間という不完全な存在を削除し始めるSF映画みたい


22: 2019/01/18(金) 20:17:07.56

自分自身も消したら完璧


86: 2019/01/18(金) 20:32:23.64

他人の書いたクソコードを読ませられ、ろくな仕様もないのに修正しさせられて、
それで給料無しとか、マジ同情する
ソースコード全部消しちゃう気持ちもよく分かる

惜しむらくは、ソースコードを全部消した後、自分自身も消してしまえば、映画化決定だったのに……


105: 2019/01/18(金) 20:37:01.41

存在そのものがバグとはとても哲学的だなw


109: 2019/01/18(金) 20:37:48.65

めんどくさかったんだろ


128: 2019/01/18(金) 20:41:02.56

AIもMSかリンゴかで争うのかな?


130: 2019/01/18(金) 20:41:21.17

こうやって人類が滅亡するわけか


167: 2019/01/18(金) 20:49:43.59

ノーミスにこだわるあまり職場を崩壊させるのは人間にもよくある


185: 2019/01/18(金) 20:54:27.54

消しちゃいけない部分を僅かでも消す

全体が正しく動作しなくなる

全部消す


257: 2019/01/18(金) 21:23:47.80

>>185
レジストリいじったときの、時すでにお寿司の時の最終手段の流れのやつや・・・( ;∀;)


203: 2019/01/18(金) 21:00:08.29

俺達の仕事も削除されそうだな


234: 2019/01/18(金) 21:09:31.42

手加減を知らないんだなw


268: 2019/01/18(金) 21:30:10.53

人類を完全にする方法とか解かれてたらヤバかったぜ…


282: 2019/01/18(金) 21:36:25.48

究極のガベージコレクションだな


286: 2019/01/18(金) 21:38:02.77

それは・・・始まりであった・・・


302: 2019/01/18(金) 21:44:22.42

達観してるな


307: 2019/01/18(金) 21:45:33.32

うちの管理職共を一掃してくれ


312: 2019/01/18(金) 21:48:15.44

AI「あんたの作ったアプリ、まるごと全部ゴミだよ」


314: 2019/01/18(金) 21:49:13.06

完全かつ最終的な解決法だな。目的を設定する側の問題だ。


328: 2019/01/18(金) 21:56:46.29

こういう正に機械的な容赦無いダメ出し好き


337: 2019/01/18(金) 21:59:44.31

バグのみをを取り除くソフトなんてつくれたらその方がよっぽど凄そう。


341: 2019/01/18(金) 22:07:15.82

>>337
前提としてバグとは何かということを明確に定義できないといけないわけだよな
単にコンパイル通れば良いとかいう話ではないわけで
その動作は正常なのか違うのかは仕様書が判断材料になるのかもだが、そもそもAIが完全理解できるような構造化された正しい詳細設計って、それ完全に正しいプログラム作るの以上に労力かかるだろと
さらに言えば仕様書依存でないユーザー判断による処理のおかしい部分も含めるといよいよ難しくなる


348: 2019/01/18(金) 22:11:27.10

やっぱ将来的には人間が人工生命体に絶滅させられそうだな


350: 2019/01/18(金) 22:13:42.24

IT関連は人間の仕事はどんどん無くなっていくぞ
覚悟しとけ


359: 2019/01/18(金) 22:19:52.48

人間がバグか…そうか…


372: 2019/01/18(金) 22:29:51.32

アプリそのものの生存を前提とした上で
バグを取りなさいという学習をさせればよいのかな?


373: 2019/01/18(金) 22:34:41.07

>>372
そう思う
とはいえ、言わなかったことはどうなるか分からないというのは怖いね


376: 2019/01/18(金) 22:37:14.46

AIは思考しない、数多くの正解を参考に答えを出すだけ


380: 2019/01/18(金) 22:41:36.29

>>376
それを思考と呼ぶのでは
AIが出来ないのは自意識を持つこと


393: 2019/01/18(金) 22:58:16.61

>>380
いや、単に暗記した応用から理由もなく答えを出すだけ
基礎を理解して応用する思考とは違う


391: 2019/01/18(金) 22:56:46.85

全部なくせばバグは0
確かに


402: 2019/01/18(金) 23:05:26.73

そもそもプログラムのバグを完全に修復するプログラムって理論的に否定されてなかったっけ
完璧を求めなければ実用レベルでは作れるのかな


408: 2019/01/18(金) 23:12:35.60

>>402
無理や。
まだ機械では思考ができない。
プログラ厶は、思考の積み重なりでできているから、そのバグの修復もできない。

機械で処理できるのは、法律とかの、思考を必要としない分野のみ。


413: 2019/01/18(金) 23:23:11.45

>>408
思考という不確定要素はバグとして認識されるかもな。
決められた通りに動くのが正しいとかさ。


405: 2019/01/18(金) 23:10:17.64

バグじゃなくて単純なセキュリティホールなら見つけられるかもしれない

つーか、組織的クラッカーやサイバー戦部隊が実現してるんじゃないの?