AIの苦手なこと・注意点

この記事で分かること

AIは、とても物知りで仕事の速い助手です。ただし、分からないことでも、分かっているかのように答えてしまう ことがあります。しかも、まちがっているときも、正しいときと同じように自信たっぷりに話します。

ですから、AIの答えは「優秀な人が書いた下書き」として受け取り、大事なところは自分で確かめる。これが基本の姿勢です。

AIが事実とちがう内容を、それらしく作ってしまうことをハルシネーションと呼びます。

生成AIとはで説明したとおり、AIは「続きとして自然な言葉」を選んで文章を作っています。事実を1つずつ調べているとは限りません。そのため、次のようなまちがいが起こります。

AIのモデルは、ある時点までの文章で学習しています。それより後のできごとは、基本的に知りません。

そのため、最新のニュースや、最近変わった料金・制度については、古い情報を答えることがあります。Web検索の機能があるAIなら最新の情報を調べてくれることもありますが、その場合も、もとのページを自分で開いて確かめると安心です。

AIに入力した内容は、そのサービスを運営する会社に送られます。次のものは入力しないでください。

どうしても相談したいときは、名前を「Aさん」に変える、会社名や金額を伏せるなど、だれのことか分からない形 にしてから入力しましょう。

AIが作った文章や画像にも、著作権の問題は関係します。

著作権の考え方は、国や使い方によってちがい、ルールの整理も進んでいる途中です。仕事で使う、作品を販売する、といった場合は、最新の公的な情報を確認するか、専門家に相談してください。

「AIは信用できない」と思いすぎない。 文章を整える、考えを整理する、案を出す、といった作業では、まちがいの心配は小さくなります。向き不向きを知って使い分けましょう。
AIが資料の名前を挙げても、安心しない。 資料そのものが実在しないことがあります。必ず自分で開いて確かめてください。
最後に責任を持つのは自分です。 AIが書いた文章でも、送ったり公開したりするのはあなたです。出す前に必ず読み直しましょう。