カテゴリー: ソフトウェア, セキュリティ,

OpenAIが開発する大規模言語モデル(LLM)のGPT-4は、一般公開されている脆弱(ぜいじゃく)性を悪用してサイバー攻撃を成功させることが可能であることが最新の研究により明らかになりました。続きを読む……
紹介OpenAIのGPT-4はCVEのセキュリティ勧告を読むことで実際の脆弱性を悪用できることが明らかにの続きを読む

ランサムウェアを用いたサイバー攻撃のニュースでは「国家の支援を受けた犯罪グループ」など高度な専門地域を有した者による犯行が報じられがちです。しかし、セキュリティ企業「Sophos」の調査では「初心者でも扱える安価なランサムウェア」が大量に出回っていることが明らかになっています。続きを読む……
紹介「初心者でも扱える安価なランサムウェア」がダークウェブで大量に出回っているの続きを読む

AI技術の発展に伴って、近年ではAIを使って人の声をシミュレートするソフトウェアなどが開発されています。しかし、一部の悪意あるユーザーがこれらの技術を悪用していることも明らかになっており、パスワード管理ソフトウェアのLastPassでは、何者かがカリム・トゥーバCEOの声を複製して従業員をだまそうとした事例が報告されています。続きを読む……
紹介パスワード管理ソフトウェア・LastPassの従業員を「AIで複製されたCEOの声」でだまそうとする事案が発生の続きを読む

AIの開発にはGPUやAIアクセラレータからなる大規模な計算資源が必要です。AI企業Anthropicのダリオ・アモデイCEOはAIモデルの学習費用が今後数年で約100億ドル(約1兆5400円)に達すると推測しています。続きを読む……
紹介「2025～2026年にはAIモデルの学習費用が1兆円を超えて人類に脅威をもたらすAIが登場する」とAI企業・AnthropicのCEOが予言の続きを読む

2024年3月29日に発覚した「XZ Utils」というライブラリへ仕掛けられていたバックドアについて、ロシアのセキュリティ企業であるカスペルスキーが分析記事を投稿しました。続きを読む……
紹介Linux環境で使用されている圧縮ツール「XZ Utils」のバックドアはどのように埋め込まれるのかをセキュリティ企業のカスペルスキーが解説の続きを読む

生成AIが発達する中で、危険な情報や非倫理的な文章・画像を生成しない安全機能がほとんどのAIには備わっています。一方で、安全機能を解除する「ジェイルブレイク」により規制を回避する方法も発見されています。イーロン・マスク氏が設立したAI企業のxAIが2023年11月に発表した独自の言語モデル「Grok」は、悪意のあるフェイクニュースを制限せずにまとめたりリベラルな回答を繰り返して保守派を怒らせたりと…
紹介イーロン・マスクのチャットAI「Grok」は爆弾の作り方や麻薬の調合方法をジェイルブレイクしなくても教えてくるという指摘の続きを読む

セキュリティ企業の「Wiz」が、悪意のあるAIモデルをHugging Face上で実行することでそのAIモデルを通してHugging Faceのシステムに侵入できる脆弱(ぜいじゃく)性を発見したと発表しました。続きを読む……
紹介信頼できないAIモデルを実行するとそのAIを通してシステムに侵入される可能性があることをセキュリティ企業が警告の続きを読む

2023年3月29日に、Linuxで広く採用されている圧縮ツール「XZ Utils」にバックドアが仕込まれていることが発覚しました。このバックドアを仕込んだ「Jia Tan」と名乗る人物の正体について、プログラマーのエバン・ボエス氏がGitHubコミットなどを追いかけて分析した結果を公開しています。続きを読む……
紹介圧縮ツール「XZ Utils」にバックドアを仕込んだ謎の人物「Jia Tan」は一体何者なのか？の続きを読む

ウェブサイトへのログイン状態を維持してくれたり、サイトの設定を保存してくれたりする「Cookie」は、便利だからこそ悪意を持った攻撃者にとっては格好の標的であり、Cookieを盗み出すマルウェアによって、アカウントに不正アクセスされる事例は後を絶ちません。こうした事例を防ぐため、GoogleがCookieを盗まれても安全な状態を保つための新機能「DBSC(Device Bound Session …
紹介Chromeに搭載される新機能「DBSC」は盗まれたCookieの悪用を防ぐの続きを読む

LinuxディストリビューションのDebianやRed Hatで使用されている圧縮ツールの「XZ Utils」に、悪意のあるバックドアが仕込まれていたことが明らかになりました。続きを読む……
紹介Red HatやDebianなどLinuxディストリビューションの組込み圧縮ツール「XZ Utils」に悪意のあるバックドアが仕掛けられていたことが発覚の続きを読む

GPT-4やClaude 3のような大規模言語モデルは人間が書いたように自然な文章を生成できますが、時として事実に基づかない情報を生成する「ハルシネーション(幻覚)」という現象を起こします。セキュリティ企業・Lasso Securityの研究者であるバー・ラニャド氏が、ハルシネーションによって存在しないパッケージを組み込んだソースコードが生成され、実際に使われていると指摘しています。続きを読む…..
紹介生成AIの幻覚で指定される「架空のパッケージ」に悪用の危険性があるとセキュリティ研究者が警告の続きを読む

Googleの脅威分析チームであるTAGとサイバーセキュリティ企業のMandiantが、エンドユーザーのプラットフォームや製品(モバイルデバイス、OS、ブラウザ、その他アプリケーション)と、セキュリティソフトウェアやアプライアンスなどのエンタープライズ向けテクノロジーの両方に対して積極的に悪用されたゼロデイ脆弱(ぜいじゃく)性についての分析レポートを公開しました。続きを読む……
紹介Googleが2023年に観測されたゼロデイ脆弱性利用のサイバー攻撃は97件で前年比50％増と報告、企業向けの攻撃が増加傾向の続きを読む

テクノロジー企業「Lumen」のサイバーセキュリティー部門・Black Lotus Labsの研究チームが、サポートの終了したSOHOルーターとIoTデバイスを標的としたボットネットを約4万件発見したと報告しています。続きを読む……
紹介サポートが打ち切られたルーターやIoTデバイスを介してサイバー犯罪に使用される約4万件ものボットネットが発見されるの続きを読む

商用スパイウェアの悪用を防止し、スパイウェアの拡散抑止や情報共有を行うための国際的な取り組みに、新たに日本や韓国など計6カ国が加わったことが発表されました。これにより加盟国は全部で17カ国となりました。続きを読む……
紹介日本・韓国・ドイツ・フィンランド・アイルランド・ポーランドがアメリカ主導のスパイウェア対策協定に参加の続きを読む

OpenAIのチャットAIであるChatGPTや、Googleの開発する大規模言語モデル(LLM)のPaLM-2などから、機密情報や一部機能を盗み出すことができる「モデル窃盗攻撃(model-stealing attack)」を、AI研究者が発表しました。続きを読む……
紹介ChatGPTや大規模言語モデル(LLM)から隠された情報や一部機能を盗み出す攻撃手法が登場の続きを読む