新金融聯盟理事長、中國銀行原行長李禮輝：需要重構人工智能信任，建立防范AI操縱的防火墻

5月23日，在“第八屆融城杯金融科技創新案例評選”啟動儀式上，新金融聯盟理事長、中國銀行原行長李禮輝在主題發言中表示，“科技創新未必總是一個線性發展的過程，突破性的技術進步往往會改變技術競爭和經濟發展的大勢和格局。ChatGPT的面世推動人工智能發展史走到了奇點，帶來了新的沖擊和挑戰。”

圖片來源：主辦方

李禮輝強調，金融科技創新有兩大原則：一是方向正確，認真學習、貫徹落實黨中央精神與金融監管機構的指導性、規范性文件十分重要；二是問題導向，金融科技創新是一個不斷發現問題、解決問題、持續進步的過程，能夠克服金融服務的難點、痛點的創新，一定是有價值的創新。

李禮輝指出，“ChatGPT的面世推動人工智能發展史走到了奇點，帶來了新的沖擊和挑戰。”

一是在算力競爭上面臨挑戰。金融領域中，智能化的信用評估、客戶篩選、風險定價、數字員工等方面無不需要數據和算力的支撐，算力很大程度上決定金融業的競爭力。算力的競爭，今后是科技巨頭、資本巨頭之間的競爭。

他表示，“我們需要探討如何構建一個既能占領全球技術高地、又能避免壟斷的國家級算力基礎設施；如何構建一個資源可共享、商業可持續、監管可包容、金融機構和科技公司可受益的金融算力生態圈。”

二是AI合成與信任面臨挑戰。深度內容合成模糊了真實與虛假的邊界，最新的深度合成算法可以對抗通用的技術性的甄別，人們開始擔憂AI虛假與AI操縱對社會構成的威脅。

李禮輝認為，“低級別的AI虛假用于詐騙、詆毀個人及企業名譽；高級別的AI操縱有可能用于詆毀政治人物或政權實體操控負面輿情、制造政治惡意、激化社會矛盾。”

“我們迫切需要重構人工智能信任，在技術上、制度上有效對抗AI虛假，建立防范AI操縱的防火墻，維護數字經濟時代的國家安全與金融業安全。”李禮輝強調。