Итерация по строкам файла

я хотел бы написать простую функцию, которая повторяет строки текстового файла. Я верю в 2.8 можно было бы сделать:

def lines(filename: String) : Iterator[String] = { 
    scala.io.Source.fromFile(filename).getLines
}

и это было так, но в 2.9 выше не работает, и вместо этого я должен сделать:

def lines(filename: String) : Iterator[String] = { 
    scala.io.Source.fromFile(new File(filename)).getLines()
}

теперь проблема в том, что я хочу составить вышеуказанные итераторы в for понимание:

for ( l1 <- lines("file1.txt"); l2 <- lines("file2.txt") ){ 
    do_stuff(l1, l2) 
}

этот раз, работала с 2.8 но вызывает "слишком много открытых файлов" исключение для ввода 2.9. Это понятно -- второй lines в результате понимания открывается (а не закрывается) файл для каждой строки в первом.

в моем случае, я знаю, что "file1.txt" большой, и я не хочу сосать его в
память, но второй файл маленький, поэтому я могу написать другой linesEager вот так:

def linesEager(filename: String): Iterator[String] = 
    val buf = scala.io.Source.fromFile(new File(filename))
    val zs  = buf.getLines().toList.toIterator
    buf.close()
    zs

а затем превратите мое понимание в:

for (l1 <- lines("file1.txt"); l2 <- linesEager("file2.txt")){ 
    do_stuff(l1, l2) 
}

это работает, но явно некрасиво. Может кто-нибудь предложить форма & чистый способ достижения вышеуказанного. Похоже, вам нужен способ для итератора возвращается lines to close файл, когда он достигает конца, и должно быть, это происходило в 2.8 поэтому он там работал?

спасибо!

BTW -- вот минимальная версия полной программы, которая показывает проблему:

import java.io.PrintWriter
import java.io.File

object Fail { 

  def lines(filename: String) : Iterator[String] = { 
    val f = new File(filename)
    scala.io.Source.fromFile(f).getLines()
  }

  def main(args: Array[String]) = { 
    val smallFile = args(0)
    val bigFile   = args(1)

    println("helloworld")

    for ( w1 <- lines(bigFile)
        ; w2 <- lines(smallFile)
        ) 
    {
      if (w2 == w1){
        val msg = "%s=%sn".format(w1, w2)
        println("found" + msg)
      }
    }

    println("goodbye")
  }

}

On 2.9.0 я компилирую с scalac WordsFail.scala и тогда я получаю это:

rjhala@goto:$ scalac WordsFail.scala 
rjhala@goto:$ scala Fail passwd words
helloworld
java.io.FileNotFoundException: passwd (Too many open files)
    at java.io.FileInputStream.open(Native Method)
    at java.io.FileInputStream.<init>(FileInputStream.java:120)
    at scala.io.Source$.fromFile(Source.scala:91)
    at scala.io.Source$.fromFile(Source.scala:76)
    at Fail$.lines(WordsFail.scala:8)
    at Fail$$anonfun$main.apply(WordsFail.scala:18)
    at Fail$$anonfun$main.apply(WordsFail.scala:17)
    at scala.collection.Iterator$class.foreach(Iterator.scala:652)
    at scala.io.BufferedSource$BufferedLineIterator.foreach(BufferedSource.scala:30)
    at Fail$.main(WordsFail.scala:17)
    at Fail.main(WordsFail.scala)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
    at java.lang.reflect.Method.invoke(Method.java:597)
    at scala.tools.nsc.util.ScalaClassLoader$$anonfun$run.apply(ScalaClassLoader.scala:78)
    at scala.tools.nsc.util.ScalaClassLoader$class.asContext(ScalaClassLoader.scala:24)
    at scala.tools.nsc.util.ScalaClassLoader$URLClassLoader.asContext(ScalaClassLoader.scala:88)
    at scala.tools.nsc.util.ScalaClassLoader$class.run(ScalaClassLoader.scala:78)
    at scala.tools.nsc.util.ScalaClassLoader$URLClassLoader.run(ScalaClassLoader.scala:101)
    at scala.tools.nsc.ObjectRunner$.run(ObjectRunner.scala:33)
    at scala.tools.nsc.ObjectRunner$.runAndCatch(ObjectRunner.scala:40)
    at scala.tools.nsc.MainGenericRunner.runTarget(MainGenericRunner.scala:56)
    at scala.tools.nsc.MainGenericRunner.process(MainGenericRunner.scala:80)
    at scala.tools.nsc.MainGenericRunner$.main(MainGenericRunner.scala:89)
    at scala.tools.nsc.MainGenericRunner.main(MainGenericRunner.scala)

2 ответов


scala-arm обеспечивает отличный механизм для автоматического закрытия ресурсов, когда вы закончите с ними.

import resource._
import scala.io.Source

for (file1 <- managed(Source.fromFile("file1.txt"));
     l1 <- file1.getLines();
     file2 <- managed(Source.fromFile("file2.txt"));
     l2 <- file2.getLines()) {
  do_stuff(l1, l2)
}

но если вы не рассчитываете на содержимое file2.txt чтобы изменить, пока вы проходите через file1.txt, было бы лучше прочитать это в List перед петлей. Нет необходимости преобразовывать его в Iterator.


может быть, вам стоит взглянуть на scala-arm (https://github.com/jsuereth/scala-arm) и пусть закрытие файлов (потоков ввода файлов) происходит автоматически в фоновом режиме.