为什么像这样处理long数据类型的内存大小会成功呢?

问题描述

关于数学问题,我是在 Java 中处理非常大整数的新手。

这是我对将纸张剪成1*1正方形的解决方案的回答。

public static void main(String[] args) {
    long result = solve(841251657,841251657);
    System.out.println(result);
}

static long solve(int n,int m) {
    long r = n*m - 1;
    return r;
}

输出1810315984,与707704350405245648的预期输出相差甚远。

但是,以下两种方式:

long 的数学计算替换为 BigInteger

static long solve(int n,int m) {
    BigInteger r = BigInteger.valueOf(n).multiply(BigInteger.valueOf(m));
    return r.longValue() - 1;
}

或者手动插入输入(不知道是不是真正的原因),

public static void main(String[] args) {
    Scanner in = new Scanner(system.in);
    long m = in.nextLong();
    long n = in.nextLong();
    long cuts = m*n-1;
    System.out.println(cuts);
}

都可以输出预期的答案。

如果我能知道原因就太好了。非常感谢。

解决方法

n * m 的值正从 int 限制溢出,因此您可以将 nm 之一转换为 long 以将与 long 相乘的结果。

public class Main {
    public static void main(String[] args) {
        long result = solve(841251657,841251657);
        System.out.println(result);
    }

    static long solve(int n,int m) {
        long r = (long)n * m - 1;
        return r;
    }
}

输出:

707704350405245648

重要的是要知道当 int 的值溢出时,它会再次从其最小限制开始,例如

public class Main {
    public static void main(String[] args) {
        int x = Integer.MIN_VALUE;
        System.out.println(Integer.MIN_VALUE);
        System.out.println(x + 1);
        System.out.println(x + 2);
    }
}

输出:

-2147483648
-2147483647
-2147483646