Странная ошибка переполнения c#
может кто-нибудь объяснить мне причину переполнения в переменную? Обратите внимание, что B больше, чем a.
static void Main(string[] args)
{
int i = 2;
long a = 1024 * 1024 * 1024 * i;
long b = 12345678901234567;
System.Console.WriteLine("{0}", a);
System.Console.WriteLine("{0}", b);
System.Console.WriteLine("{0}", long.MaxValue);
}
-2147483648
12345678901234567
9223372036854775807
Press any key to continue . . .
спасибо!
1 ответов
RHS является int умножение, потому что каждая часть выражения является int. Только потому, что он назначается длинному, не означает, что он выполняется с длинной арифметикой.
меняем его на:
long a = 1024L * 1024 * 1024 * i;
и это сработает. (Разница в L в конце первого 1024.)