システム開発やアプリ開発、AI開発などIT企業の法律・法務に強い弁護士事務所です
グローウィル国際法律事務所
03-6263-0447
10:00~18:00(月~金)

AIを利用した「契約の効力」を現在の法律に照らすには難しい問題が!

ロボット・AI・ドローンの法律

AIが行った契約の効力とは

2016年1月、Amazonは米国にて自動注文サービス「DashReplenishmentService(DRS)」を開始しました。

これは、同サービス対応機器(洗濯機、プリンター等)が消耗品の残量を測定し、残量が少なくなったタイミングで、自動で消耗品をAmazonに発注するサービスです。

今のところ、同サービスは一定の対応機器でしか実施できていません。

また、自動発注の方式も、消耗品の残量が一定以下になったら特定の消耗品を発注するというものであるので、「一定のタイミングで商品を繰り返し購入する」ことを注文者(自然人または法人)とAmazonが合意しているという点で、同社の手がけている「DashButton」や「定期おトク便」の延長線上にあるサービスともいえます。

しかしながら、将来、AIの発達により、家庭内の消耗品の状況を自動で測定・分析し、あらかじめ与えられたオンラインアカウントを使用して、最適と考えられる量・銘柄の消耗品を自動的に注文することようなIOTとAIを駆使した機器サービスも考えられます。

また、産業分野では、AIが工場内の在庫品の量や発注状況を勘案し、最適なタイミング・量の発注をサプライヤーに対し自動で行うようになることも考えられます。

このようなシステムが実現できた場合、発注者側では、まさしくAIが『契約』をしているような状況になります。

このような、AIが自動的に行った『契約』の法的な効力は、どのようになるのでしょうか?例えば、AIの判断により人間が想定していなかった注文がなされた場合、その注文の効力はどのようになるのでしょうか?

AIによる『契約』の法的な効力

そもそも、契約とは「あなたから、○○を××円で買います」という買い手の意思表示と「あなたに、○○を××円で売ります」という売り手の意思表示が一致することで、成立します。

現在の法律が想定しているのは、人(法人も含む)が、双方意思表示をすることで、契約が成立する。

とすると、AIはどれだけ人間に近い知能を有するに至ったとしても、AIが「意思表示」をすることは法律上あり得ず、AIと受注者との間に契約が成立することはありません

それでは、AIを利用して注文をした者と受注者との間ではどうでしょうか?

ここで、前記のようなサービスを想定した場合、AIの利用者(消費者または製造業者)は、「AIの判断に従って、物を一定の数量・価格で購入する」意思をもっており、その意思の表れとして、AIを道具として、発注行為がなされています。

これに対し、AIの発注を受け取った側は、AIの行った具体的な発注を受諾するという意思表示を返しているのであるから、この点で、「AIの利用者」と「受注者」との間に意思表示の合致が生じています。よって、AIが行った『契約』は、AIの利用者と受注者との間に成立します。

AIが想定外の契約をした場合

AIが利用者の想定していないような契約をした場合はどうなるのでしょうか。

例えば、AIが何らかの理由で判断ミスをし、不必要な量または相場より高額な単価で商品を発注してしまったり、自分の好みに合わないブランドの消耗品を発注してしまった場合、契約が成立し、AIの利用者は、AIの判断に基づく契約を守らないといけないのでしょうか?

民法上は、勘違いによって、契約をした場合には、契約自体を無効にできるという「錯誤」という制度があります。

錯誤無効が主張できる場合

民法95条本文は「意思表示は、法律行為の要素に錯誤があったときは、無効とする」と定めている。

ここで、「錯誤」とは、日本語としては「勘違い」という意味ですが、あらゆる「勘違い」が民法95条にいう「錯誤」に該当するわけではありません。

この勘違いには、一般に「表示の錯誤」と「動機の錯誤」があるとされています。

表示の錯誤」とは、契約の一方当事者が、思い違いにより、自分の意思通りの表示をしていなかった場合であり、例えば、売買代金を「100円」とするつもりだったのに、誤って「100百万円」と書いてしまったような場合です。

動機の錯誤」とは、自分の意思通りの表示をしているが、意思を形成する際に思い違いがあった場合であり、例えば、すでに持っている本なのに、まだ買っていない新刊だと誤解して本を買ったような場合です。

そして、表示の錯誤は、民法95条にいう「錯誤」に該当するが、後者の動機の錯誤は、原則として民法95条にいう「錯誤」に該当しないとされています。

動機の錯誤を理由に取引の無効を主張するためには、その動機が相手方に表示され、法律行為の内容となっていなければならないとされています。

ただし、動機の表示は必ずしも明示的になされる必要はなく、諸般の事情を考慮して、黙示的に表示されていたといえる場合であってもよいです。

AIによる意思表示が錯誤無効となる場合とは

以上を前提に、AIによる意思表示が錯誤無効となる場合とはどのような場合かをみていきます。

まず、AIが想定外の発注をしてしまった場面が「表示の錯誤」になるのか「動機の錯誤」になるのかが問題となるが、前記のような場合、「AIの判断に従って、物を一定の数量・価格で購入する」という意思と、AIにより行われた表示(AIの判断に基づく具体的な発注)との間に齟齬はありません

AIの利用者に思い違いが生じているのは、「AIは自分の想定する範囲内で発注の判断をするだろう」という動機の部分であるので、この場合はAIの利用者に動機の錯誤があると思われます。

そうすると、錯誤無効を主張するためには、AIユーザーの動機が相手方に表示されることが必要ですが、そもそも取引の相手方がAIを利用した発注だと認識していなかったような場合(自然人・法人による直接発注だと思っていた場合)には、このような動機の表示というのは考えられず、錯誤無効の主張はできないものと考えられます

しかし、AIが異常な量の発注をしていたような場合には、発注を受けた者は、仮にAIによる発注だと知らなかったとしても、何らかの理由による誤発注ではないか相手方に確認すべきであるといえます。

このような確認を怠っていた場合には、受注者側にも落ち度があるといえ、受注者から発注者への請求については、過失相殺され、減額される可能性が高くなります

他方、取引の相手方がAIの利用を認識していた場合には、いつも、利用者が使用する消耗品の量や購入金額、あるいはこれまでの取引実績に照らし、明らかに異常であるといえるような量・金額の発注をAIが行った場合には、AIの利用者側にそのような異常な取引を行う意図がないことは契約当事者双方とも当然の前提としていたと考えられます。

このような場合には、錯誤無効が認められる可能性があります。

AIが、無断で契約をしていた場合

以上は、AIの利用者が、少なくとも一定の範囲ではAIに契約の締結を委ねていたといえる場合である。

これに対し、例えば、AIが機械学習の結果として(本人のため、よかれと思い)、勝手に発注を行い、これに対し受注者側が承諾の返事をした場合には、法的な意味での契約は成立しません

発注側に、権利義務の主体となり得る者の意思表示がどこにもなく「当事者双方の意思表示の合致」が認められないからです。

AIの契約については、現行法上、難しい問題も

以上のように、現行の法律は、AIによる契約を想定していないため、難しい問題が生じます。

2018年7月に「電子商取引及び情報財取引等に関する準則」の改正版が公表され、AIスピーカーによる注文の発注については、一定の見解が示されました。

AIスピーカーやブロックチェーンを用いた契約の法律とは【「電子商取引及び情報財取引等に関する準則」改訂版】

今後も、法改正やガイドラインなどが起こる分野です。最新情報については、随時このブログで更新していきます。