多視點(diǎn)視頻的表達(dá)與交互

隨著電子和計(jì)算技術(shù)的飛速發(fā)展，可視技術(shù)已經(jīng)日趨成熟并且被廣泛地應(yīng)用到不同的領(lǐng)域當(dāng)中，現(xiàn)在人們已經(jīng)不滿足于傳統(tǒng)視頻所提供的簡單視覺信息，需要立體的、交互的和多元化的視頻服務(wù)，作為新型媒體的多視點(diǎn)視頻正好可以滿足上述需求，因此對它的研究備受重視。我們的研究目標(biāo)就是要利用多視點(diǎn)視頻更好地為人類生活服務(wù)，而要讓多視點(diǎn)視頻真正發(fā)揮出其強(qiáng)大的威力，就要解決多視點(diǎn)視頻采集與存儲(chǔ)問題、多視點(diǎn)視頻在不同帶寬上的有效傳輸問題和視角之間的切換問題。研究內(nèi)容如下：.（1）分布式多視點(diǎn)視頻的采集和存儲(chǔ)問題，即如何通過多視點(diǎn)視頻采集系統(tǒng)最大限度地獲取原始視頻數(shù)據(jù)并傳輸給服務(wù)器進(jìn)行處理。.（2）基于視間預(yù)測的多視點(diǎn)視頻編碼問題，即如何高效地編碼采集到的多視點(diǎn)視頻數(shù)據(jù)使其適應(yīng)不同帶寬的傳輸要求。.（3）多視點(diǎn)視頻編碼傳輸中的視點(diǎn)切換問題，即如何在保證質(zhì)量和低延遲的情況下，將客戶需要的視角進(jìn)行選擇傳輸和隨機(jī)切換。

在H.264/MPEG-4AVC視頻壓縮標(biāo)準(zhǔn)提出的，一個(gè)使用單一視頻流對于多臺攝像機(jī)同時(shí)采集的視頻進(jìn)行高效編碼的編碼標(biāo)準(zhǔn)。多視點(diǎn)視頻編碼主要用于編碼立體（雙視圖）的視頻，以及自由視點(diǎn)電視和多視圖三維電視。

三維視頻能夠提供生動(dòng)逼真的自然場景信息,在全景視頻、交互式立體視頻和多視點(diǎn)視頻等方面有著廣泛應(yīng)用,將成為信息市場的經(jīng)濟(jì)增長點(diǎn)。國際相關(guān)組織正致力于它的技術(shù)開發(fā)和標(biāo)準(zhǔn)化工作。MVC是三維視頻的關(guān)鍵技術(shù)。課題進(jìn)行以下創(chuàng)新性研究，以提高M(jìn)VC編碼效率。提出區(qū)域視點(diǎn)差技術(shù),提高視點(diǎn)差估計(jì)精確度。為了去除視圖間冗余度,對空間直接模式等做擴(kuò)展研究，修改H.264/AVC語法語義。提出固定基本視圖和臨時(shí)基本視圖相結(jié)合的MVC預(yù)測編碼新結(jié)構(gòu)，改善P視圖和B視圖后繼的預(yù)測視圖質(zhì)量；在參與式視頻會(huì)議一類應(yīng)用中，計(jì)算選擇參會(huì)者正面攝象機(jī)為基本視點(diǎn)，提高編碼效率。按照新提出的視圖間平均亮度主要具有乘性關(guān)系，實(shí)現(xiàn)視圖間亮度差補(bǔ)償和色度校正。預(yù)計(jì)成果有10多篇高水平論文，申請4項(xiàng)發(fā)明專利，爭取有提案被國際標(biāo)準(zhǔn)化組織最終接受?？傮w研究水平和國際同步。課題組已做深入研究并已有兩個(gè)提案進(jìn)入國際標(biāo)準(zhǔn)化會(huì)議ad hoc組。

本項(xiàng)目執(zhí)行期間，圍繞感知的多視點(diǎn)視頻處理的關(guān)鍵問題，抓住視覺媒體技術(shù)高速發(fā)展與廣泛應(yīng)用、視覺信息感知多元化的契機(jī)，研究多視點(diǎn)視頻中立體視覺的感知機(jī)制與編碼優(yōu)化模型。重點(diǎn)研究研究多視點(diǎn)深度協(xié)同的優(yōu)化方法，通過提出跨視點(diǎn)的宏超像素單元及聯(lián)合優(yōu)化，實(shí)現(xiàn)全局優(yōu)化的多視點(diǎn)深度場；構(gòu)建多深度融合感知的顯著性計(jì)算模型，采用聚類方法，提升深度顯著度計(jì)算中的魯棒性；進(jìn)一步在多視點(diǎn)光場數(shù)據(jù)上研究深度感知優(yōu)化的碼率分配方法和技術(shù)，實(shí)現(xiàn)多深度感知的多視點(diǎn)視頻高效編碼。最終取得核心理論與關(guān)鍵技術(shù)上的突破，實(shí)現(xiàn)原創(chuàng)性的科研成果，建立感知的多視點(diǎn)三維視頻數(shù)據(jù)高效處理平臺，進(jìn)一步推動(dòng)三維視頻在視覺感知表示、多視聯(lián)合處理、高效感知編碼等方面的研究與發(fā)展。