Adjust dq_type 1/2 parameters Change-Id: I5e205150c62f07049187ddd61b670ad5197c1645
diff --git a/av1/common/quant_common.c b/av1/common/quant_common.c index b56a395..7eddb02 100644 --- a/av1/common/quant_common.c +++ b/av1/common/quant_common.c
@@ -40,85 +40,85 @@ // dq_type = 1 { // Y/intra, dq_type 1, low quality - { 66, 12 }, // dc - { 66, 12 }, // ac + { 64, 4 }, // dc + { 64, 6 }, // ac }, { // Y/intra, dq_type 1, high quality - { 66, 6 }, // dc - { 66, 6 }, // ac + { 64, 2 }, // dc + { 64, 3 }, // ac }, { // UV/intra, dq_type 1, low quality - { 66, 12 }, // dc - { 66, 12 }, // ac + { 64, 4 }, // dc + { 64, 6 }, // ac }, { // UV/intra, dq_type 1, high quality - { 66, 6 }, // dc - { 66, 6 }, // ac + { 64, 2 }, // dc + { 64, 3 }, // ac }, { // Y/inter, dq_type 1, low quality - { 66, 12 }, // dc - { 66, 12 }, // ac + { 64, 4 }, // dc + { 64, 6 }, // ac }, { // Y/inter, dq_type 1, high quality - { 66, 6 }, // dc - { 66, 6 }, // ac + { 64, 3 }, // dc + { 64, 4 }, // ac }, { // UV/inter, dq_type 1, low quality - { 66, 12 }, // dc - { 66, 12 }, // ac + { 64, 4 }, // dc + { 64, 6 }, // ac }, { // UV/inter, dq_type 1, high quality - { 66, 6 }, // dc - { 66, 6 }, // ac + { 64, 3 }, // dc + { 64, 4 }, // ac }, // dq_type = 2 { // Y/intra, dq_type 2, low quality { 72, 12 }, // dc - { 72, 12 }, // ac + { 72, 14 }, // ac }, { // Y/intra, dq_type 2, high quality { 72, 6 }, // dc - { 72, 6 }, // ac + { 72, 8 }, // ac }, { // UV/intra, dq_type 2, low quality - { 72, 12 }, // dc - { 72, 12 }, // ac + { 72, 14 }, // dc + { 72, 16 }, // ac }, { // UV/intra, dq_type 2, high quality - { 72, 6 }, // dc - { 72, 6 }, // ac + { 72, 8 }, // dc + { 72, 10 }, // ac }, { // Y/inter, dq_type 2, low quality - { 72, 12 }, // dc - { 72, 12 }, // ac + { 72, 16 }, // dc + { 72, 18 }, // ac }, { // Y/inter, dq_type 2, high quality - { 72, 6 }, // dc - { 72, 6 }, // ac - }, - { - // UV/inter, dq_type 2, low quality - { 72, 12 }, // dc + { 72, 10 }, // dc { 72, 12 }, // ac }, { + // UV/inter, dq_type 2, low quality + { 72, 18 }, // dc + { 72, 20 }, // ac + }, + { // UV/inter, dq_type 2, high quality - { 72, 6 }, // dc - { 72, 6 }, // ac + { 72, 12 }, // dc + { 72, 14 }, // ac }, // dq_type = 3
diff --git a/av1/encoder/encodeframe.c b/av1/encoder/encodeframe.c index ee3e79c..19d9597 100644 --- a/av1/encoder/encodeframe.c +++ b/av1/encoder/encodeframe.c
@@ -4103,7 +4103,7 @@ #if CONFIG_NEW_QUANT switch (cpi->sf.optimize_coefficients) { case NO_TRELLIS_OPT: cm->dq_type = DQ_MULT_OFFSET3; break; - case FINAL_PASS_TRELLIS_OPT: cm->dq_type = DQ_MULT_OFFSET2; break; + case FINAL_PASS_TRELLIS_OPT: cm->dq_type = DQ_MULT_OFFSET3; break; case FULL_TRELLIS_OPT: cm->dq_type = DQ_MULT_OFFSET1; break; } #endif // CONFIG_NEW_QUANT