Прочитайте поток дважды
Как вы читаете один и тот же входной поток дважды? Можно ли как-то скопировать его?
Мне нужно получить изображение из Интернета, сохранить его локально, а затем вернуть сохраненное изображение. Я просто старался быстрее использовать один и тот же поток вместо того, чтобы запускать новый поток для загруженного контента, а затем читать его снова.
Ответы
Ответ 1
Вы можете использовать org.apache.commons.io.IOUtils.copy
, чтобы скопировать содержимое InputStream в массив байтов, а затем повторно прочитать из массива байтов, используя ByteArrayInputStream. Например:.
ByteArrayOutputStream baos = new ByteArrayOutputStream();
org.apache.commons.io.IOUtils.copy(in, baos);
byte[] bytes = baos.toByteArray();
// either
while (needToReadAgain) {
ByteArrayInputStream bais = new ByteArrayInputStream(bytes);
yourReadMethodHere(bais);
}
// or
ByteArrayInputStream bais = new ByteArrayInputStream(bytes);
while (needToReadAgain) {
bais.reset();
yourReadMethodHere(bais);
}
Ответ 2
В зависимости от того, откуда приходит InputStream, вы не сможете reset его. Вы можете проверить, поддерживаются ли mark()
и reset()
с помощью markSupported()
.
Если это так, вы можете вызвать reset()
в InputStream, чтобы вернуться к началу. Если нет, вам нужно снова прочитать InputStream из источника.
Ответ 3
если ваша поддержка InputStream
с использованием знака, вы можете mark()
ваш входной поток, а затем reset()
его. если ваш InputStrem
не поддерживает метку, вы можете использовать класс java.io.BufferedInputStream
, поэтому вы можете встраивать свой поток внутри BufferedInputStream
, как этот
InputStream bufferdInputStream = new BufferedInputStream(yourInputStream);
bufferdInputStream.mark(some_value);
//read your bufferdInputStream
bufferdInputStream.reset();
//read it again
Ответ 4
Вы можете переносить поток ввода с помощью PushbackInputStream. PushbackInputStream позволяет читать ( "писать обратно" ) байты, которые уже были прочитаны, поэтому вы можете сделать это следующим образом:
public class StreamTest {
public static void main(String[] args) throws IOException {
byte[] bytes = new byte[] { 1, 2, 3, 4, 5, 6, 7, 8, 9 };
InputStream originalStream = new ByteArrayInputStream(bytes);
byte[] readBytes = getBytes(originalStream, 3);
printBytes(readBytes); // prints: 1 2 3
readBytes = getBytes(originalStream, 3);
printBytes(readBytes); // prints: 4 5 6
// now let wrap it with PushBackInputStream
originalStream = new ByteArrayInputStream(bytes);
InputStream wrappedStream = new PushbackInputStream(originalStream, 10); // 10 means that maximnum 10 characters can be "written back" to the stream
readBytes = getBytes(wrappedStream, 3);
printBytes(readBytes); // prints 1 2 3
((PushbackInputStream) wrappedStream).unread(readBytes, 0, readBytes.length);
readBytes = getBytes(wrappedStream, 3);
printBytes(readBytes); // prints 1 2 3
}
private static byte[] getBytes(InputStream is, int howManyBytes) throws IOException {
System.out.print("Reading stream: ");
byte[] buf = new byte[howManyBytes];
int next = 0;
for (int i = 0; i < howManyBytes; i++) {
next = is.read();
if (next > 0) {
buf[i] = (byte) next;
}
}
return buf;
}
private static void printBytes(byte[] buffer) throws IOException {
System.out.print("Reading stream: ");
for (int i = 0; i < buffer.length; i++) {
System.out.print(buffer[i] + " ");
}
System.out.println();
}
}
Обратите внимание, что PushbackInputStream хранит внутренний буфер байтов, поэтому он действительно создает буфер в памяти, который содержит байты "записанные назад".
Зная этот подход, мы можем пойти дальше и объединить его с FilterInputStream. FilterInputStream хранит исходный входной поток в качестве делегата. Это позволяет создать новое определение класса, которое позволяет "непрочитанные" исходные данные автоматически. Определение этого класса следующее:
public class TryReadInputStream extends FilterInputStream {
private final int maxPushbackBufferSize;
/**
* Creates a <code>FilterInputStream</code>
* by assigning the argument <code>in</code>
* to the field <code>this.in</code> so as
* to remember it for later use.
*
* @param in the underlying input stream, or <code>null</code> if
* this instance is to be created without an underlying stream.
*/
public TryReadInputStream(InputStream in, int maxPushbackBufferSize) {
super(new PushbackInputStream(in, maxPushbackBufferSize));
this.maxPushbackBufferSize = maxPushbackBufferSize;
}
/**
* Reads from input stream the <code>length</code> of bytes to given buffer. The read bytes are still avilable
* in the stream
*
* @param buffer the destination buffer to which read the data
* @param offset the start offset in the destination <code>buffer</code>
* @aram length how many bytes to read from the stream to buff. Length needs to be less than
* <code>maxPushbackBufferSize</code> or IOException will be thrown
*
* @return number of bytes read
* @throws java.io.IOException in case length is
*/
public int tryRead(byte[] buffer, int offset, int length) throws IOException {
validateMaxLength(length);
// NOTE: below reading byte by byte instead of "int bytesRead = is.read(firstBytes, 0, maxBytesOfResponseToLog);"
// because read() guarantees to read a byte
int bytesRead = 0;
int nextByte = 0;
for (int i = 0; (i < length) && (nextByte >= 0); i++) {
nextByte = read();
if (nextByte >= 0) {
buffer[offset + bytesRead++] = (byte) nextByte;
}
}
if (bytesRead > 0) {
((PushbackInputStream) in).unread(buffer, offset, bytesRead);
}
return bytesRead;
}
public byte[] tryRead(int maxBytesToRead) throws IOException {
validateMaxLength(maxBytesToRead);
ByteArrayOutputStream baos = new ByteArrayOutputStream(); // as ByteArrayOutputStream to dynamically allocate internal bytes array instead of allocating possibly large buffer (if maxBytesToRead is large)
// NOTE: below reading byte by byte instead of "int bytesRead = is.read(firstBytes, 0, maxBytesOfResponseToLog);"
// because read() guarantees to read a byte
int nextByte = 0;
for (int i = 0; (i < maxBytesToRead) && (nextByte >= 0); i++) {
nextByte = read();
if (nextByte >= 0) {
baos.write((byte) nextByte);
}
}
byte[] buffer = baos.toByteArray();
if (buffer.length > 0) {
((PushbackInputStream) in).unread(buffer, 0, buffer.length);
}
return buffer;
}
private void validateMaxLength(int length) throws IOException {
if (length > maxPushbackBufferSize) {
throw new IOException(
"Trying to read more bytes than maxBytesToRead. Max bytes: " + maxPushbackBufferSize + ". Trying to read: " +
length);
}
}
}
Этот класс имеет два метода. Один для чтения в существующий буфер (defintion аналогичен вызову public int read(byte b[], int off, int len)
класса InputStream). Второй, который возвращает новый буфер (это может быть более эффективным, если размер буфера для чтения неизвестен).
Теперь посмотрим наш класс в действии:
public class StreamTest2 {
public static void main(String[] args) throws IOException {
byte[] bytes = new byte[] { 1, 2, 3, 4, 5, 6, 7, 8, 9 };
InputStream originalStream = new ByteArrayInputStream(bytes);
byte[] readBytes = getBytes(originalStream, 3);
printBytes(readBytes); // prints: 1 2 3
readBytes = getBytes(originalStream, 3);
printBytes(readBytes); // prints: 4 5 6
// now let use our TryReadInputStream
originalStream = new ByteArrayInputStream(bytes);
InputStream wrappedStream = new TryReadInputStream(originalStream, 10);
readBytes = ((TryReadInputStream) wrappedStream).tryRead(3); // NOTE: no manual call to "unread"(!) because TryReadInputStream handles this internally
printBytes(readBytes); // prints 1 2 3
readBytes = ((TryReadInputStream) wrappedStream).tryRead(3);
printBytes(readBytes); // prints 1 2 3
readBytes = ((TryReadInputStream) wrappedStream).tryRead(3);
printBytes(readBytes); // prints 1 2 3
// we can also call normal read which will actually read the bytes without "writing them back"
readBytes = getBytes(wrappedStream, 3);
printBytes(readBytes); // prints 1 2 3
readBytes = getBytes(wrappedStream, 3);
printBytes(readBytes); // prints 4 5 6
readBytes = ((TryReadInputStream) wrappedStream).tryRead(3); // now we can try read next bytes
printBytes(readBytes); // prints 7 8 9
readBytes = ((TryReadInputStream) wrappedStream).tryRead(3);
printBytes(readBytes); // prints 7 8 9
}
}
Ответ 5
Если вы используете реализацию InputStream
, вы можете проверить результат InputStream#markSupported()
, которые говорят вам, можете ли вы использовать метод mark()
/reset()
.
Если вы можете пометить поток при чтении, затем вызовите reset()
, чтобы вернуться к началу.
Если вы не можете, вам придется снова открыть поток.
Другим решением было бы преобразовать InputStream в массив байтов, а затем перебрать по массиву столько раз, сколько вам нужно. Вы можете найти несколько решений в этом сообщении Преобразовать InputStream в байтовый массив в Java, используя сторонние библиотеки или нет. Осторожно, если прочитанный контент слишком велик, вы можете столкнуться с некоторыми проблемами памяти.
Наконец, если вам нужно прочитать изображение, используйте:
BufferedImage image = ImageIO.read(new URL("http://www.example.com/images/toto.jpg"));
Использование ImageIO#read(java.net.URL)
также позволяет использовать кеш.
Ответ 6
Преобразуйте входной поток в байты, а затем передайте его в функцию savefile, где вы собираете то же самое во входной поток.
Также в исходной функции используйте байты для использования для других задач
Ответ 7
Как насчет:
if (stream.markSupported() == false) {
// lets replace the stream object
ByteArrayOutputStream baos = new ByteArrayOutputStream();
IOUtils.copy(stream, baos);
stream.close();
stream = new ByteArrayInputStream(baos.toByteArray());
// now the stream should support 'mark' and 'reset'
}
Ответ 8
Если кто-то работает в приложении Spring Boot, и вы хотите прочитать тело ответа RestTemplate
(именно поэтому я хочу прочитать поток дважды), есть чистый (er) способ сделать это.
Прежде всего, вам нужно использовать Spring StreamUtils
для копирования потока в String:
String text = StreamUtils.copyToString(response.getBody(), Charset.defaultCharset()))
Но это не все. Вам также необходимо использовать фабрику запросов, которая может буферизовать поток для вас, например:
ClientHttpRequestFactory factory = new BufferingClientHttpRequestFactory(new SimpleClientHttpRequestFactory());
RestTemplate restTemplate = new RestTemplate(factory);
Или, если вы используете фабричный компонент, то (это Котлин, но тем не менее):
@Bean
@Scope(ConfigurableBeanFactory.SCOPE_PROTOTYPE)
fun createRestTemplate(): RestTemplate = RestTemplateBuilder()
.requestFactory { BufferingClientHttpRequestFactory(SimpleClientHttpRequestFactory()) }
.additionalInterceptors(loggingInterceptor)
.build()
Источник: https://objectpartners.com/2018/03/01/log-your-resttemplate-request-and-response-without-destroying-the-body/
Ответ 9
Для разделения InputStream
на две, избегая при этом загрузки всех данных в память и последующей их обработки независимо:
- Точно создайте пару
OutputStream
: PipedOutputStream
- Соедините каждый PipedOutputStream с PipedInputStream, эти
PipedInputStream
являются возвращенным InputStream
. - Соедините источник InputStream с только что созданным
OutputStream
. Итак, все, что читается из источника InputStream
, будет записано в оба OutputStream
. Нет необходимости реализовывать это, потому что это уже сделано в TeeInputStream
(commons.io). -
Внутри отдельного потока считывается весь входной поток inputStream, и неявно входные данные передаются в целевой inputStreams.
public static final List<InputStream> splitInputStream(InputStream input)
throws IOException
{
Objects.requireNonNull(input);
PipedOutputStream pipedOut01 = new PipedOutputStream();
PipedOutputStream pipedOut02 = new PipedOutputStream();
List<InputStream> inputStreamList = new ArrayList<>();
inputStreamList.add(new PipedInputStream(pipedOut01));
inputStreamList.add(new PipedInputStream(pipedOut02));
TeeOutputStream tout = new TeeOutputStream(pipedOut01, pipedOut02);
TeeInputStream tin = new TeeInputStream(input, tout, true);
Executors.newSingleThreadExecutor().submit(tin::readAllBytes);
return Collections.unmodifiableList(inputStreamList);
}
Будьте внимательны, чтобы закрыть inputStreams после использования и закрыть поток, который выполняется: TeeInputStream.readAllBytes()
В случае, если вам нужно разделить его на несколько InputStream
, а не только два. Замените в предыдущем фрагменте кода класс TeeOutputStream
для вашей собственной реализации, которая инкапсулирует List<OutputStream>
и переопределяет интерфейс OutputStream
:
public final class TeeListOutputStream extends OutputStream {
private final List<? extends OutputStream> branchList;
public TeeListOutputStream(final List<? extends OutputStream> branchList) {
Objects.requireNonNull(branchList);
this.branchList = branchList;
}
@Override
public synchronized void write(final int b) throws IOException {
for (OutputStream branch : branchList) {
branch.write(b);
}
}
@Override
public void flush() throws IOException {
for (OutputStream branch : branchList) {
branch.flush();
}
}
@Override
public void close() throws IOException {
for (OutputStream branch : branchList) {
branch.close();
}
}
}