背包问题是动静布局算法中十分经典的一类问题,也是口试面试中常见的一类问题。

背包问题有四类:0/1背包问题、齐全背包问题、多重背包问题、混合背包问题。

上面将总结0/1背包问题齐全背包问题多重背包问题三类问题。对于混合背包问题,难度较大,个别口试面试题也不会过多波及。

笔者自认为本文将背包问题总结地比拟全面,可不免有错漏,欢送批评指正!

一、0/1背包问题

1.1 经典0/1背包问题

你有一个背包,最多能包容的分量是m。当初有n个物品,第i个物品的分量为w[i] ,价值为v[i]。求这个背包至少能装多大价值的物品?

本例可参考:NC11 【模板】01背包

动静布局是一个将大问题划分为小问题进行解决,从而一步步获取最优解的过程。对于0/1背包问题,思考子问题“求解将前 i 个物品放入容量为 j 的背包中的最大价值”,设 F(i, j) 为将前 i 个物品放入容量为 j 的背包中最优解的总价值。对于第 i 个物品,事实上有两种状况:

  • w[i] > j,即第 i 个物品的分量大于背包容量 j,则不放入该物品。此时最优解的值等同于将前 i-1 个物品放入容量为 j 的背包中最优解的值,即 F[i][j] = F[i-1][j]。
  • w[i] ≤ j,即第 i 个物品的分量不大于背包容量 j,则有以下两种状况的最大值决定:

    • 不放入该物品,此时最优解的值等同于将前 i-1 个物品放入容量为 j 的背包中最优解的值,即 F[i][j] = F[i-1][j]。
    • 放入该物品,此时背包的残余容量为 j-w[i],则最优解的值等同于“第 i 个物品的价值”“前 i-1 个物品放入容量为 j-w[i] 的背包中最优解的值”之和,即F[i][j] = v[i] + F[i - 1][j - w[i]]。

留神了解上述过程:是先比拟第i个物品的分量与背包容量,若能放,再比拟放入第i个物品与不放入第i个物品哪个能失去前i个物品状况下的最优解!

因而能够失去递推公式:

$$初始条件:F(i,0) = F(0, j) = 0 \\$$

$$F(i,j)=\begin{cases}F(i-1, j), & w[i] > j \\max\{ F(i-1,j),v[i] + F(i - 1)(j - w[i]) \}, & w[i] ≤ j\end{cases}$$

给出如下一个例子:

背包的承重m = 5。当初有4个物品如下,求背包至少能装多大价值的物品:

物品分量价值
1212
2110
3320
4215

对于n=4, m=5的背包问题,应建设一个dp[n+1][m+1]的二维表。填表过程如下:

你是否对这个填表过程感到相熟?是的,所谓背包问题,其实还是后面的二维动静布局问题

填表过程的代码如下:

/** * @param w 物品的分量 * @param v 物品的价值 * @param n 物品的个数 * @param m 背包的容量 */public static int knapsack1(int[] w, int[] v, int n, int m) {    int[][] dp = new int[n + 1][m + 1];    for (int i = 1; i < n + 1; i++) {        for (int j = 1; j < m + 1; j++) {            if (w[i - 1] > j)                dp[i][j] = dp[i - 1][j];            else                dp[i][j] = Math.max(dp[i - 1][j],                                     v[i - 1] + dp[i - 1][j - w[i - 1]]);        }    }    return dp[n][m];}

看到这里,你可能会感到纳闷,为什么要这样填表?这样填写进去的表不是与这n件物品的存储程序无关吗?然而常识通知咱们,这个问题的解答不应该与物品程序相干呀?

是的,本问题的核心思想就是“求解将前 i 个物品放入容量为 j 的背包中的最大价值”,而不同的物品程序显然填进去的表是不雷同的。然而,这个动静规划表并不是咱们须要的后果,咱们也并不关怀”前 i 个物品放入容量为 j 的背包“的问题,咱们关怀的是“n 个物品放入容量为 m 的背包”的问题。尽管不同物品程序得出的动静规划表不一样,但其最优解的值肯定是一样的,而这才是咱们关怀的。

接下来将介绍如何回溯失去最优计划。

1.2 回溯、输入最优解

咱们先用图示的办法看看如何从动静规划表进行回溯、得出最优解的计划:

上述回溯过程仿佛很简单,然而在代码中能够退出一个辅助数组path[][]来记录更新的物品。则求出最优计划的代码如下:

public static void knapsack2(int[] w, int[] v, int n, int m) {    int[][] dp = new int[n + 1][m + 1];    int[][] path = new int[n + 1][m + 1];    for (int i = 1; i <= n; i++) {        for (int j = 1; j <= m; j++) {            if (w[i - 1] > j)                dp[i][j] = dp[i - 1][j];            else {                if (dp[i - 1][j] < v[i - 1] + dp[i - 1][j - w[i - 1]]) {                    dp[i][j] = v[i - 1] + dp[i - 1][j - w[i - 1]];                    path[i][j] = 1;                } else {                    dp[i][j] = dp[i - 1][j];                }            }        }    }    for (int i = n, j = m; i >= 0; i--) {        if (path[i][j] == 1) {            System.out.println("放入第" + i + "个物品");            j = j - w[i - 1];    // 回溯过程体现在这里!        }    }    System.out.println("最大价值为: " + dp[n][m]);}

上文提到,不同的物品程序失去的动静规划表不同,但最优解的值是雷同的。然而,雷同的只有最优解的值,因为最优解的计划是须要依据动静布局过程回溯失去的,因而最优解的计划却不肯定一样。

例如将上例中物品1的价值批改为10,求得的最优解尽管同样是35,却存在 {物品1, 物品2, 物品4} 和 {物品3, 物品4} 两个最优计划。你能够应用上面两个例子进行测试:

// 示例1int[] w = {2, 1, 3, 2};         // 物品的分量int[] v = {10, 10, 20, 15};     // 物品的价值int n = w.length;               // 物品的个数int m = 5;                      // 背包的容量knapsack2(w, v, n, m);// 示例2int[] w = {3, 1, 2, 2};         // 物品的分量int[] v = {20, 10, 10, 15};     // 物品的价值int n = w.length;               // 物品的个数int m = 5;                      // 背包的容量knapsack2(w, v, n, m);

以上两个例子仅仅替换了物品的程序,尽管最优解的值雷同,但最优计划却不同。

那么,怎么判断最优解的计划是否惟一呢?在填表过程中,如果 F[i-1][j] 与 v[i] + F[i - 1][j - w[i]] 相等,则可阐明存在多个最优计划

1.3 改良1:记忆性能

注:此办法不需把握,可间接跳过。然而看完之后,置信你会对动静布局有更深一步的理解。

动静布局算法是自底向上的:动静布局算法从最小的子问题登程,应用较小子问题的解去填充表格,每个子问题只解一次。然而,有些较小的子问题的解经常不是必须的。

递归的算法是自顶向下的:递归算法对递推式的求解将导致须要不止一次地解公共的子问题。例如斐波那契数列问题,递归算法将多次重复计算雷同值,因而效率非常低。

将自底向上的动静布局算法与自顶向下的递归算法联合起来,使它只对必要的子问题求解只求解一次,这就是记忆性能的办法。该办法自顶向下地应用递归进行求解,但还需保护一个自底向上的动静布局表格:

public class MFKnapsackDemo {    public static void main(String[] args) {        int[] w = {2, 1, 3, 2};         // 物品的分量        int[] v = {12, 10, 20, 15};     // 物品的价值        int n = w.length;               // 物品的数量        int m = 5;                      // 背包的容量        MFKnapsack mfKnapsack = new MFKnapsack(m, w, v);        System.out.println("最大价值为: " + mfKnapsack.knapsack(n, m));    }}class MFKnapsack {    static int n;          // 物品的个数    static int m;          // 背包的容量    static int[] w;        // 物品的分量    static int[] v;        // 物品的价值    static int[][] dp;     // 动静规划表    /**     * 将w[]、v[]、dp[][]作为全局变量     * 对于dp[][],将第0行、第0列初始化为0,其余全副初始化为-1     */    public MFKnapsack(int m, int[] w, int[] v) {        this.m = m;        this.w = w;        this.v = v;        this.n = w.length;        dp = new int[n + 1][m + 1];        for (int i = 1; i <= n; i++) {            for (int j = 1; j <= m; j++) {                dp[i][j] = -1;            }        }    }    public static int knapsack(int i, int j){        if (dp[i][j] < 0){            if (j < w[i-1])                dp[i][j] = knapsack(i-1, j);            else                dp[i][j] = Math.max(knapsack(i-1, j), v[i-1] + knapsack(i-1, j-w[i-1]));        }        return dp[i][j];    }}

递归调用过程不便画出填表的过程,对于该例,其动静规划表dp[][]为:

比照一般动静布局算法计算出的表格来看,退出记忆性能后,算法将只对必要的子问题进行求解。

然而,退出记忆性能后,它的工夫效率与惯例的动静布局算法是统一的,退出记忆性能对性能的改良并不会超过一个常数因子。但如果一个值的计算无奈在常数工夫内实现,那么记忆性能对性能的改良可能会更显著。

1.4 改良2:空间优化

回到经典的01背包问题,咱们再看一看外围表达式:

$$dp[i][j]=\begin{cases}dp[i-1][j], & w[i] > j \\max\{ dp[i-1][j],v[i] + dp[i - 1][j - w[i]] \}, & w[i] ≤ j\end{cases}$$

能够看到,求解 dp[i][j] 时,其实只须要第 i-1 行的第 j 列或者第 j - w[i] 列的后果,其余行的后果是不须要的。所以咱们真正须要的只有 i-1 这一行,在对 i 遍历时,第 i 层能够主动滚动笼罩掉第 i-1 层。

那么咱们就能够进行空间优化,将其优化为一维数组:

$$dp[j]=\begin{cases}dp[j], & w[i] > j \\max\{ dp[j],v[i] + dp[j - w[i]] \}, & w[i] ≤ j\end{cases}$$

如果依照这个公式填表,会发现存在以下问题:

呈现这个问题的起因是:从左向右遍历会导致,后批改的左边的值须要用到先批改的右边的值。

那么如何解决呢?很简略,将其批改为从右向左遍历即可:

依据填表过程,能够失去01背包问题的空间优化算法:

public static int knapsack3(int[] w, int[] v, int n, int m) {    int[] dp = new int[m + 1];    for (int i = 1; i <= n; i++) {        for (int j = m; j >= 1; j--) {            //if (w[i - 1] > j) dp[j] = dp[j];            if (w[i - 1] <= j)                dp[j] = Math.max(dp[j], v[i - 1] + dp[j - w[i - 1]]);        }    }    return dp[m];}

1.5 恰好装满问题

你有一个背包,最多能包容的分量是m。当初有n个物品,第i个物品的分量为w[i] ,价值为v[i]。若背包恰好装满,求至少能装多大价值的物品?如果无解请返回0。

本例可参考:NC11 【模板】01背包

若应用空间优化,则应初始化 dp[0] 为 0,其余初始化为Integer.MIN_VALUE

最初若 dp[m] 为负数则阐明恰好装满,若为正数则阐明无解。

对于NC11 【模板】01背包,给出我的代码:

import java.util.*;public class Main {    public static void main(String[] args) {        Scanner sc = new Scanner(System.in);        int n = sc.nextInt();        int m = sc.nextInt();        int[] v = new int[n];        int[] w = new int[n];        for (int i = 0; i < n; i++) {            w[i] = sc.nextInt();            v[i] = sc.nextInt();        }        int[] dp = new int[m + 1];        for (int i = 1; i <= n; i++) {            for (int j = m; j >= 1; j--) {                if (w[i - 1] <= j)                    dp[j] = Math.max(dp[j], v[i - 1] + dp[j - w[i - 1]]);            }        }        System.out.println(dp[m]);        Arrays.fill(dp, Integer.MIN_VALUE);        dp[0] = 0;        for (int i = 1; i <= n; i++) {            for (int j = m; j >= 1; j--) {                if (w[i - 1] <= j)                    dp[j] = Math.max(dp[j], v[i - 1] + dp[j - w[i - 1]]);            }        }        if (dp[m] < 0) dp[m] = 0;        System.out.print(dp[m]);    }}

二、齐全背包问题

看到这里先问一下大家,为什么叫做0/1背包问题呢?因为在0/1背包问题中,对于所有的物品只有放与不放两种状况。而齐全背包问题就不一样了,在齐全背包问题中,每种物品都有有限件可用

你有一个背包,最多能包容的分量是m。当初有n种物品,每种物品有任意多个,第i个物品的分量为w[i] ,价值为v[i]。求这个背包至少能装多大价值的物品?

本例可参考:NC12 【模板】齐全背包

2.1 经典齐全背包问题

咱们先看一看经典01背包问题的方程:

$$dp[i][j]=\begin{cases}dp[i-1][j], & w[i] > j \\max\{ dp[i-1][j],v[i] + dp[i - 1][j - w[i]] \}, & w[i] ≤ j\end{cases}$$

对于齐全背包问题,因为每种物品有任意多个,那么咱们能够再退出一层循环 k,k 代表第 i 种物品有 k 件。

则 v[i] 应批改为 k*v[i],w[i] 应批改为 k*w[i],且应答遍历的k*v[i]+dp[i-1][j-k*w[i]]取最大值,因而能够失去齐全背包问题的方程

$$dp[i][j]=\begin{cases}dp[i-1][j], & w[i] > j \\max\{ dp[i-1][j], max\{k * v[i] + dp[i - 1][j - k * w[i]]\} \}, & w[i] ≤ k * w[i] ≤ j\end{cases}$$

代码如下:

public static int CompleteKnapsack1(int[] w, int[] v, int n, int m) {    int[][] dp = new int[n + 1][m + 1];    for (int i = 1; i <= n; i++) {        for (int j = 1; j <= m; j++) {            if (w[i - 1] > j)                dp[i][j] = dp[i - 1][j];            else {                for (int k = 1; k <= j / w[i - 1]; k++) {                    int temp = Math.max(dp[i - 1][j],                            k * v[i - 1] + dp[i - 1][j - k * w[i - 1]]);                    dp[i][j] = Math.max(dp[i][j], temp);                }            }        }    }    return dp[n][m];}

然而这种算法的工夫复杂度将达到 O(n^3),性能太差,因而须要进行工夫复杂度的优化。

2.2 改良1:工夫优化

察看齐全背包问题的方程:

$$dp[i][j]=\begin{cases}dp[i-1][j], & w[i] > j &①\\max\{ dp[i-1][j],max\{k * v[i] + dp[i - 1][j - k * w[i]]\} \}, & w[i] ≤ k * w[i] ≤ j &②\end{cases}$$

咱们发现,当 k=0 时,有dp[i-1][j]k*v[i]+dp[i-1][j-k*w[i]]相等,故以上方程能够合并为:

$$dp[i][j]=\begin{cases}dp[i-1][j], & w[i] > j &①\\max\{ k * v[i] + dp[i - 1][j - k * w[i]] \}, & 0 ≤ k ≤ \frac {j} {w[i]} &②\end{cases}$$

对于式子②,咱们晓得有以下两种状况,二者的最大值即为 dp[i][j]:

  • 不放入第 i 种物品。则有:

    $$dp[i][j] = dp[i-1][j]$$

  • 放入第 i 种物品。那么应该放入几件呢?由遍历计算得出的最大值决定:

    $$dp[i][j] = max\{ k * v[i] + f[i-1][j-k*w[i]] \} \tag{1 ≤ k ≤ j/w[i]}$$

    • k+1 替换 k,该式能够写为:

    $$ \begin{aligned} dp[i][j] & = max\{ (k+1) * v[i] + f[i-1][j-(k+1)*w[i]] \} \\ & = max\{ k * v[i] + f[i-1][j-(k+1)*w[i]] \} +v[i]\\ & = max\{ k * v[i] + f[i-1][j-w[i]-k*w[i]] \} +v[i]\end{aligned}\\(0 ≤ k ≤ j/w[i])$$

    • 对于上述③式,用 j-w[i] 替换 j ,该式能够写为:

    $$dp[i][j-w[i]]=max\{ k * v[i] + dp[i - 1][j-w[i] - k * w[i]] \} \\(0 ≤ k ≤ j/w[i])$$

    • 察看以上两个式子,能够失去:

      $$dp[i][j] = dp[i][j-w[i]] + v[i] \tag{w[i] ≤ j}$$

综合不放入的状况与放入的状况,两者应取最大值,因而式子②能够写为:

$$dp[i][j] = max\{ dp[i-1][j], dp[i][j-w[i]] + v[i] \} \tag{w[i] ≤ j}$$

综上,联合式子①与式子②,因而齐全背包问题的方程为:

$$dp[i][j]=\begin{cases}dp[i-1][j], & w[i] > j\\max\{ dp[i-1][j], dp[i][j-w[i]] + v[i] \}, & w[i] ≤ j\end{cases}$$

因而能够写出代码:

public static int CompleteKnapsack2(int[] w, int[] v, int n, int m) {    int[][] dp = new int[n + 1][m + 1];    for (int i = 1; i <= n; i++) {        for (int j = 1; j <= m; j++) {            if (w[i - 1] > j)                dp[i][j] = dp[i - 1][j];            else                dp[i][j] = Math.max(dp[i - 1][j],                                      dp[i][j - w[i - 1]] + v[i - 1]);        }    }    return dp[n][m];}

2.3 改良2:空间优化

察看齐全背包问题的方程

$$dp[i][j]=\begin{cases}dp[i-1][j], & w[i] > j\\max\{ dp[i-1][j], dp[i][j-w[i]] + v[i] \}, & w[i] ≤ j\end{cases}$$

能够看到,求解 dp[i][j] 时,其实只须要第 i-1 行的第 j 列或者以后第 i 行曾经求过的第 j-w[i] 列的后果,其余行的后果是不须要的。

那么咱们就能够进行空间优化,将其优化为一维数组:

$$dp[j]=\begin{cases}dp[j], & w[i] > j \\max\{ dp[j],dp[j - w[i]] +v[i]\}, & w[i] ≤ j\end{cases}$$

与0/1背包问题的空间优化不同,因为咱们须要的第 i 行的第 j-w[i] 列在以后值 j 的左侧,因而咱们必须对 j 从左向右遍历能力取到该值。

因而,空间优化后的齐全背包问题的代码如下:

public static int CompleteKnapsack3(int[] w, int[] v, int n, int m) {    int[] dp = new int[m + 1];    for (int i = 1; i <= n; i++) {        for (int j = 1; j <= m; j++) {            if (w[i - 1] <= j)                dp[j] = Math.max(dp[j], dp[j - w[i - 1]] + v[i - 1]);        }    }    return dp[m];}

2.4 工夫优化的思路转换

下面的工夫优化的的数学过程是不是让你感到很妙又很晕呢?那么咱们换一种思路。

咱们晓得,动静布局是一个将大问题划分为小问题进行解决,从而一步步获取最优解的过程。

咱们将 F[i][j] 示意为“将前 i 个物品放入容量为 j 的背包中的最大价值”,对于第 i 种物品,有两种状况:

  • w[i] > j,即第 i 个物品的分量大于背包容量 j。则不放入该物品。此时最优解的值等同于将前 i-1 个物品放入容量为 j 的背包中最优解的值,即 F[i][j] = F[i-1][j]。
  • w[i] ≤ j,即第 i 个物品的分量不大于背包容量 j。则有以下两种状况的最大值决定:

    • 不放入该物品。此时最优解的值等同于将前 i-1 个物品放入容量为 j 的背包中的最大价值,即 F[i][j] = F[i-1][j]。
    • 放入该物品。先放入一个物品,此物品的价值为v[i],此时背包的残余容量为 j-w[i]。那么剩下的j-w[i]应该怎么再放入物品 i 呢?该问题就等同于“将前 i 个物品放入容量为 j-w[i] 的背包中的最大价值”。因而,F[i][j] = v[i] + F[i][j-w[i]]。

因而能够失去递推公式:

$$dp[i][j]=\begin{cases}dp[i-1][j], & w[i] > j\\max\{ dp[i-1][j], dp[i][j-w[i]] + v[i] \}, & w[i] ≤ j\end{cases}$$

怎么样?是不是更好了解了呢?

2.5 恰好装满问题

你有一个背包,最多能包容的分量是m。当初有n种物品,每种物品有任意多个,第i个物品的分量为w[i] ,价值为v[i]。若背包恰好装满,求至少能装多大价值的物品?如果无解请返回0。

本例可参考:NC12 【模板】齐全背包

若应用空间优化,则应初始化 dp[0] 为 0,其余初始化为Integer.MIN_VALUE

最初若 dp[m] 为负数则阐明恰好装满,若为正数则阐明无解。

对于NC12 【模板】齐全背包,给出我的代码:

import java.util.*;public class Main {    public static void main(String[] args) {        Scanner sc = new Scanner(System.in);        int n = sc.nextInt();        int m = sc.nextInt();        int[] v = new int[n];        int[] w = new int[n];        for (int i = 0; i < n; i++) {            w[i] = sc.nextInt();            v[i] = sc.nextInt();        }        int[] dp = new int[m + 1];        for (int i = 1; i <= n; i++) {            for (int j = 1; j <= m; j++) {                if (j >= w[i - 1])                    dp[j] = Math.max(dp[j], dp[j - w[i - 1]] + v[i - 1]);            }        }        System.out.println(dp[m]);        Arrays.fill(dp, Integer.MIN_VALUE);        dp[0] = 0;        for (int i = 1; i <= n; i++) {            for (int j = 1; j <= m; j++) {                if (j >= w[i - 1])                    dp[j] = Math.max(dp[j], dp[j - w[i - 1]] + v[i - 1]);            }        }        if (dp[m] < 0) dp[m] = 0;        System.out.print(dp[m]);    }}

三、多重背包问题

你有一个背包,最多能包容的分量是m。当初有n种物品,第i个物品的分量为w[i] ,价值为v[i],数量为c[i]。求这个背包至少能装多大价值的物品?

本例可参考:多重背包

3.1 经典多重背包问题

咱们先察看齐全背包问题的方程

$$dp[i][j]=\begin{cases}dp[i-1][j], & w[i] > j \\max\{ dp[i-1][j], max\{k * v[i] + dp[i - 1][j - k * w[i]]\} \}, & w[i] ≤ k * w[i] ≤ j\end{cases}$$

那么,多重背包与齐全背包的区别在哪里呢?多重背包仅仅是对物品的数量多了个限度k≤c[i]

$$dp[i][j]=\begin{cases}dp[i-1][j], & w[i] > j \\max\{ dp[i-1][j], max\{k * v[i] + dp[i - 1][j - k * w[i]]\} \}, & w[i] ≤ k * w[i] ≤ j & and & k ≤ c[i]\end{cases}$$

所以,仅仅须要对 k 循环的条件作批改即可。代码如下:

public static int MultipleKnapsack1(int[] w, int[] v, int[] c, int n, int m) {    int[][] dp = new int[n + 1][m + 1];    for (int i = 1; i <= n; i++) {        for (int j = 1; j <= m; j++) {            if (w[i - 1] > j)                dp[i][j] = dp[i - 1][j];            else {                for (int k = 1; k <= j / w[i - 1] && k <= c[i - 1]; k++) { //比照齐全背包,仅需批改此处                    int temp = Math.max(dp[i - 1][j], k * v[i - 1] + dp[i - 1][j - k * w[i - 1]]);                    dp[i][j] = Math.max(dp[i][j], temp);                }            }        }    }    return dp[n][m];}

3.2 改良1:空间优化

同样的,多重背包问题能够进行空间优化,其思路与0/1背包问题统一,须要思考到:若从左向右遍历,会导致后批改的左边的值须要用到先批改的右边的值。

因而,多重背包问题的 j 值须要从右向左遍历

public static int MultipleKnapsack2(int[] w, int[] v, int[] c, int n, int m) {    int[] dp2 = new int[m + 1];    for (int i = 1; i <= n; i++) {        for (int j = m; j >= 1; j--) {            if (w[i - 1] <= j) {                for (int k = 1; k <= j / w[i - 1] && k <= c[i - 1]; k++) {                    dp2[j] = Math.max(dp2[j],                            k * v[i - 1] + dp2[j - k * w[i - 1]]);                }            }        }    }    return dp[m];}

3.3 改良2:二进制优化、枯燥队列优化

多重背包问题还能够进行二进制优化、枯燥队列优化。但笔者满腹经纶,就不多作介绍了。

OJ地址:多重背包的二进制优化、多重背包的枯燥队列优化

参考资料

  1. 【尚硅谷】Java数据结构与算法
  2. 清华大学出版社《算法设计与剖析根底(第3版)》Anany Levitin 著 潘彦 译
  3. 背包问题-笔记整顿