commit 4542d22c169bbecf8e53f80e551897a756e94f59
author Jingning Han <jingning@google.com> Tue Nov 08 11:15:16 2016 -0800
committer Jingning Han <jingning@google.com> Wed Nov 09 05:11:04 2016 +0000
tree bf3909774b067781bb4b2d2284fe06d7caca5366
parent df07264f47c930e3ece46b167e525b932c623674

Prepare uv_tx_size mapping table for recursive transform partition

Make the UV transform block table support recursive transform block
partitioning. This doesn't change the coding statistics.

Change-Id: I90bcf7c52c597a77afe130f1f1ed5024b6888737

av1/common/common_data.h

diff --git a/av1/common/common_data.h b/av1/common/common_data.h
index a9efb1b..cedab2f 100644
--- a/av1/common/common_data.h
+++ b/av1/common/common_data.h
@@ -594,16 +594,12 @@
       { { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
       { { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
       { { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
-#if CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_4X8, TX_4X4 }, { TX_4X4, TX_4X4 } },  // used
-#else
-      { { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },      // used
-#endif  // CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
+      { { TX_4X8, TX_4X4 }, { TX_4X4, TX_4X4 } },
+      { { TX_4X8, TX_4X4 }, { TX_4X4, TX_4X4 } },
+      { { TX_4X8, TX_4X4 }, { TX_4X4, TX_4X4 } },
+      { { TX_4X8, TX_4X4 }, { TX_4X4, TX_4X4 } },
+      { { TX_4X8, TX_4X4 }, { TX_4X4, TX_4X4 } },
+      { { TX_4X8, TX_4X4 }, { TX_4X4, TX_4X4 } },
   },
   {
 // BLOCK_8X4
@@ -614,16 +610,12 @@
       { { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
       { { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
       { { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-#if CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_8X4, TX_4X4 }, { TX_4X4, TX_4X4 } },  // used
-#else
-      { { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },      // used
-#endif  // CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
+      { { TX_8X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
+      { { TX_8X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
+      { { TX_8X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
+      { { TX_8X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
+      { { TX_8X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
+      { { TX_8X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
   },
   {
 // BLOCK_8X8
@@ -652,14 +644,10 @@
       { { TX_8X8, TX_8X8 }, { TX_4X4, TX_4X4 } },
       { { TX_4X8, TX_4X8 }, { TX_4X8, TX_4X8 } },
       { { TX_8X4, TX_8X4 }, { TX_4X4, TX_4X4 } },
-#if CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_8X16, TX_8X8 }, { TX_4X8, TX_4X8 } },  // used
-#else
-      { { TX_8X8, TX_8X8 }, { TX_4X4, TX_4X4 } },      // used
-#endif  // CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
+      { { TX_8X16, TX_8X8 }, { TX_4X8, TX_4X8 } },
+      { { TX_8X16, TX_8X8 }, { TX_4X8, TX_4X8 } },
+      { { TX_8X16, TX_8X8 }, { TX_4X8, TX_4X8 } },
+      { { TX_8X16, TX_8X8 }, { TX_4X8, TX_4X8 } },
   },
   {
 // BLOCK_16X8
@@ -672,14 +660,10 @@
       { { TX_8X8, TX_4X4 }, { TX_8X8, TX_8X8 } },
       { { TX_4X8, TX_4X4 }, { TX_4X8, TX_4X4 } },
       { { TX_8X4, TX_8X4 }, { TX_8X4, TX_8X4 } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-#if CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_16X8, TX_8X4 }, { TX_8X8, TX_8X4 } },  // used
-#else
-      { { TX_8X8, TX_4X4 }, { TX_8X8, TX_4X4 } },      // used
-#endif  // CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
+      { { TX_16X8, TX_8X4 }, { TX_8X8, TX_8X4 } },
+      { { TX_16X8, TX_8X4 }, { TX_8X8, TX_8X4 } },
+      { { TX_16X8, TX_8X4 }, { TX_8X8, TX_8X4 } },
+      { { TX_16X8, TX_8X4 }, { TX_8X8, TX_8X4 } },
   },
   {
 // BLOCK_16X16
@@ -710,12 +694,8 @@
       { { TX_8X4, TX_8X4 }, { TX_8X4, TX_8X4 } },
       { { TX_8X16, TX_8X16 }, { TX_8X16, TX_8X16 } },
       { { TX_16X8, TX_16X8 }, { TX_8X8, TX_8X8 } },
-#if CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_16X32, TX_16X16 }, { TX_8X16, TX_8X16 } },  // used
-#else
-      { { TX_16X16, TX_16X16 }, { TX_8X8, TX_8X8 } },  // used
-#endif  // CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
+      { { TX_16X32, TX_16X16 }, { TX_8X16, TX_8X16 } },
+      { { TX_16X32, TX_16X16 }, { TX_8X16, TX_8X16 } },
   },
   {
 // BLOCK_32X16
@@ -730,12 +710,8 @@
       { { TX_8X4, TX_8X4 }, { TX_8X4, TX_8X4 } },
       { { TX_8X16, TX_8X8 }, { TX_8X16, TX_8X8 } },
       { { TX_16X8, TX_16X8 }, { TX_16X8, TX_16X8 } },
-      { { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
-#if CONFIG_RECT_TX && USE_UV_RECT_TX
-      { { TX_32X16, TX_16X8 }, { TX_16X16, TX_16X8 } },  // used
-#else
-      { { TX_16X16, TX_8X8 }, { TX_16X16, TX_8X8 } },  // used
-#endif  // CONFIG_RECT_TX && USE_UV_RECT_TX
+      { { TX_32X16, TX_16X8 }, { TX_16X16, TX_16X8 } },
+      { { TX_32X16, TX_16X8 }, { TX_16X16, TX_16X8 } },
   },
   {
 // BLOCK_32X32