Все, кто занимался созданием приложений, работающих с большими данными, знают, что возвращаемый сервисом результат по умолчанию не может быть больше двух мегабайт, поэтому в описание биндинга в web.config привычно добавляем что-то вроде:

<binding name="myBinding" maxBufferSize="2147483647" maxReceivedMessageSize="2147483647" maxBufferPoolSize="2147483647">

Тем не менее, в случае действительно больших таблиц этого оказывается недостаточным. По умолчанию установлено ограничение не только на общий объем передаваемых данных, но и на количество принимаемых элементов (655360). Поэтому в описание поведения сервиса надо добавить (или исправить) строку

<dataContractSerializer maxItemsInObjectGraph="5000000" />

В это поле 2 миллиарда ставить не рекомендую.