本文就借助经典的「最长递增子序列问题」来讲一讲设计动态规划的通用技巧:数学归纳思想

最长递增子序列(Longest Increasing Subsequence,简写 LIS)是非常经典的一个算法问题,比较容易想到的是动态规划解法,时间复杂度 O(N^2),我们借这个问题来由浅入深讲解如何找状态转移方程,如何写出动态规划解法。比较难想到的是利用二分查找,时间复杂度是 O(NlogN),我们通过一种简单的纸牌游戏来辅助理解这种巧妙的解法。

先看一下题目,LeetCode 第 300 题就是:

image.png

注意「子序列」和「子串」这两个名词的区别,子串一定是连续的,而子序列不一定是连续的。下面先来设计动态规划算法解决这个问题。

一、动态规划解法

动态规划的核心设计思想是数学归纳法。

相信大家对数学归纳法都不陌生,高中就学过,而且思路很简单。比如我们想证明一个数学结论,那么我们先假设这个结论在 **k<n** 时成立,然后根据这个假设,想办法推导证明出 **k=n** 的时候此结论也成立。如果能够证明出来,那么就说明这个结论对于 k 等于任何数都成立。

类似的,我们设计动态规划算法,不是需要一个 dp 数组吗?我们可以假设 dp[0...i-1] 都已经被算出来了,然后问自己:怎么通过这些结果算出 dp[i]

直接拿最长递增子序列这个问题举例你就明白了。不过,首先要定义清楚 dp 数组的含义,即 dp[i] 的值到底代表着什么?

我们的定义是这样的:**dp[i]** 表示以 **nums[i]** 这个数结尾的最长递增子序列的长度。

PS:为什么这样定义呢?这是解决子序列问题的一个套路,后文动态规划之子序列问题解题模板 总结了几种常见套路。你读完本章所有的动态规划问题,就会发现 dp 数组的定义方法也就那几种。

根据这个定义,我们就可以推出 base case:dp[i] 初始值为 1,因为以 nums[i] 结尾的最长递增子序列起码要包含它自己。

举两个例子:

image.png

image.png

算法演进的过程是这样的:

640.gif

根据这个定义,我们的最终结果(子序列的最大长度)应该是 dp 数组中的最大值。

  1. int res = 0;
  2. for (int i = 0; i < dp.size(); i++) {
  3. res = Math.max(res, dp[i]);
  4. }
  5. return res;

读者也许会问,刚才的算法演进过程中每个 dp[i] 的结果是我们肉眼看出来的,我们应该怎么设计算法逻辑来正确计算每个 dp[i] 呢?

这就是动态规划的重头戏了,要思考如何设计算法逻辑进行状态转移,才能正确运行呢?这里就可以使用数学归纳的思想:

假设我们已经知道了 **dp[0..4]** 的所有结果,我们如何通过这些已知结果推出 **dp[5]**

image.png

根据刚才我们对 dp 数组的定义,现在想求 dp[5] 的值,也就是想求以 nums[5] 为结尾的最长递增子序列。

**nums[5] = 3**,既然是递增子序列,我们只要找到前面那些结尾比 3 小的子序列,然后把 3 接到最后,就可以形成一个新的递增子序列,而且这个新的子序列长度加一

显然,可能形成很多种新的子序列,但是我们只选择最长的那一个,把最长子序列的长度作为 dp[5] 的值即可。

image.png

  1. for (int j = 0; j < i; j++) {
  2. if (nums[i] > nums[j])
  3. dp[i] = Math.max(dp[i], dp[j] + 1);
  4. }

i = 5 时,这段代码的逻辑就可以算出 dp[5]。其实到这里,这道算法题我们就基本做完了。

读者也许会问,我们刚才只是算了 dp[5] 呀,dp[4], dp[3] 这些怎么算呢?类似数学归纳法,你已经可以算出 dp[5] 了,其他的就都可以算出来:

  1. for (int i = 0; i < nums.length; i++) {
  2. for (int j = 0; j < i; j++) {
  3. if (nums[i] > nums[j])
  4. dp[i] = Math.max(dp[i], dp[j] + 1);
  5. }
  6. }

结合我们刚才说的 base case,下面我们看一下完整代码:

  1. public int lengthOfLIS(int[] nums) {
  2. int[] dp = new int[nums.length];
  3. // base case:dp 数组全都初始化为 1
  4. Arrays.fill(dp, 1);
  5. for (int i = 0; i < nums.length; i++) {
  6. for (int j = 0; j < i; j++) {
  7. if (nums[i] > nums[j])
  8. dp[i] = Math.max(dp[i], dp[j] + 1);
  9. }
  10. }
  11. int res = 0;
  12. for (int i = 0; i < dp.length; i++) {
  13. res = Math.max(res, dp[i]);
  14. }
  15. return res;
  16. }

至此,这道题就解决了,时间复杂度 O(N^2)。总结一下如何找到动态规划的状态转移关系:

1、明确 dp 数组所存数据的含义。这一步对于任何动态规划问题都很重要,如果不得当或者不够清晰,会阻碍之后的步骤。

2、根据 dp 数组的定义,运用数学归纳法的思想,假设 dp[0...i-1] 都已知,想办法求出 dp[i],一旦这一步完成,整个题目基本就解决了。

但如果无法完成这一步,很可能就是 dp 数组的定义不够恰当,需要重新定义 dp 数组的含义;或者可能是 dp 数组存储的信息还不够,不足以推出下一步的答案,需要把 dp 数组扩大成二维数组甚至三维数组。

二、二分查找解法(Greedy Alg)

这个解法的时间复杂度为 O(NlogN),但是说实话,正常人基本想不到这种解法(也许玩过某些纸牌游戏的人可以想出来)。所以大家了解一下就好,正常情况下能够给出动态规划解法就已经很不错了。

根据题目的意思,我都很难想象这个问题竟然能和二分查找扯上关系。其实最长递增子序列和一种叫做 patience game 的纸牌游戏有关,甚至有一种排序方法就叫做 patience sorting(耐心排序)。

为了简单起见,后文跳过所有数学证明,通过一个简化的例子来理解一下算法思路。

首先,给你一排扑克牌,我们像遍历数组那样从左到右一张一张处理这些扑克牌,最终要把这些牌分成若干堆。

image.png

处理这些扑克牌要遵循以下规则

只能把点数小的牌压到点数比它大的牌上;如果当前牌点数较大没有可以放置的堆,则新建一个堆,把这张牌放进去;如果当前牌有多个堆可供选择,则选择最左边的那一堆放置

比如说上述的扑克牌最终会被分成这样 5 堆(我们认为纸牌 A 的牌面是最大的,纸牌 2 的牌面是最小的)。

image.png

为什么遇到多个可选择堆的时候要放到最左边的堆上呢?稍加观察可以发现,这样可以保证牌堆顶的牌有序(2, 4, 7, 8, Q)。

image.png

按照上述规则执行,可以算出最长递增子序列,牌的堆数就是最长递增子序列的长度。

image.png

这个应该不难理解,因为如果从每堆拿出一张牌,就可以形成一个递增子序列。又因为每堆牌的值是递减的,所以这个递增子序列是最长的。具体证明可查看LongestIncreasingSubsequence.pdf

我们只要把处理扑克牌的过程编程写出来即可。每次处理一张扑克牌不是要找一个合适的牌堆顶来放吗,牌堆顶的牌不是有序吗,这就能用到二分查找了:用二分查找来搜索当前牌应放置的位置。

  1. int lengthOfLIS(vector<int>& nums) {
  2. vector<int> top(nums.size(),0);
  3. // 牌堆数初始化为 0
  4. int piles = 0;
  5. for (int i = 0; i < nums.size(); i++) {
  6. // 要处理的扑克牌
  7. int poker = nums[i];
  8. /***** 搜索左侧边界的二分查找 *****/
  9. int left = 0, right = piles - 1;
  10. // while (left <= right) {
  11. // int mid = (left + right) / 2;
  12. // if (top[mid] >= poker) {
  13. // right = mid -1;
  14. // } else if (top[mid] < poker) {
  15. // left = mid + 1;
  16. // }
  17. // }
  18. left = lower_bound(top.begin(),top.begin() + right + 1,poker)
  19. - top.begin();
  20. /*********************************/
  21. // 没找到合适的牌堆,新建一堆
  22. if (left >= piles) left = piles++;
  23. // 把这张牌放到牌堆顶
  24. top[left] = poker;
  25. }
  26. // 牌堆数就是 LIS 长度
  27. return piles;
  28. }

或者:

  1. int lengthOfLIS(const vector<int>& nums){
  2. vector<int> tops;
  3. for(auto x:nums){
  4. int left = lower_bound(tops.begin(), tops.end(),x) - tops.begin();
  5. //没找到,新建一堆
  6. if(left>=tops.size()){
  7. tops.emplace_back(x);
  8. }else{
  9. // 把这张牌放到牌堆顶
  10. tops[left] = x;
  11. }
  12. }
  13. return tops.size();
  14. }

至此,二分查找的解法也讲解完毕。

这个解法确实很难想到。首先涉及数学证明,谁能想到按照这些规则执行,就能得到最长递增子序列呢?其次还有二分查找的运用,要是对二分查找的细节不清楚,给了思路也很难写对。

所以,这个方法作为思维拓展好了。但动态规划的设计方法应该完全理解:假设之前的答案已知,利用数学归纳的思想正确进行状态的推演转移,最终得到答案。