【財新網(wǎng)】“當前，我國人工智能發(fā)展的總體態(tài)勢良好，算力、算法和數(shù)據(jù)是大模型應用的三大支撐要素。同時也要清醒看到，人工智能的算法“黑箱”、數(shù)據(jù)污染、模型缺陷等潛在風險問題不容忽視。特別是在金融行業(yè)應用時，應關(guān)注人工智能帶來的效率提升與風險加劇的雙重效應?！痹?月10日舉辦的國民財富發(fā)展研究合作平臺“人工智能與金融未來”2025春季峰會上，中國財富管理50人論壇理事長、原銀監(jiān)會主席、證監(jiān)會原主席尚福林表示。

　　具體來看，針對人工智能的算法“黑箱”，尚福林認為，提高模型算法的透明性和可解釋性是關(guān)鍵。尚福林坦言，深度學習模型目前還存在不可解釋性，輸出的結(jié)果難以解釋和追溯，增加了監(jiān)管的難度。訓練數(shù)據(jù)中的偏差會導致算法輸出的不公平或錯誤。人工智能工具是根據(jù)過去的數(shù)據(jù)進行訓練的，可能無法準確反映現(xiàn)實和預測未來。